在神经科学与人工智能时代，作为人类意味着要仔细探索那些复杂交汇点——尽管其中存在有效的观点，但这些观点之间仍存在张力，从而显现出不容忽视的微妙之处与挑战。每一页都展现了观点之间以及各主题内部现存的张力，这些张力源于集体讨论，并辅以NHNAI网络研究人员的见解。
民主的复杂性#6:监管的民主挑战
人们已经达成了明确的共识,即强大的新技术需要治理和监管。鼓励合理使用始终处于人类控制之下的人工智能技术（包括视频监控、算法、大数据、社交媒体）至关重要。我们需要为公民实施更新的规范工具和司法权利（这是一个多学科问题）；为专业群体（例如网络开发人员）制定和实施道德准则；特别关注弱势群体（例如防止歧视的自动化）。
然而,部分交流也强调,监管引发了许多尖锐问题,使其成为一个非常困难的挑战。例如,可以提到社交媒体审核的话题:谁是合适的演员？人工智能技术可能会做出贡献,但人类的地位如何？这样的话题揭示了有关真理、民主和合法性的非常基本的问题。更广泛地说,人工智能的监管具有挑战性,原因如下:技术发展的步伐、责任模式的混淆（一般指数字技术,更具体地说是机器学习）、通常“容易”获得强大的工具（在恶意行为者手中,图像 / 面部识别等技术可能变得极其有害）, 全球研究和开发的规模（世界各地价值体系的多样性以及利益冲突的集合）,……人们还应该考虑到与数字技术相关的经济或商业模式（基于用户的免费模式’参与和数据收集可能使其难以与人类蓬勃发展的目标保持一致）。
为了应对人工智能监管的挑战,许多参与者强调应培养数字素养和批判性思维的重要性。非常重要的是,一些与会者强调,迫切需要对抗公民在面临此类监管挑战时可能经历的无能为力的感觉。
NHNAI学术网络的见解:
A。从律师的角度来看
鉴于人工智能监管挑战的深度,我们可能会回顾一些基本的法律原则,特别是法治的重要性,作为确保生动民主的基本原则。法治原则意味着,为了限制我们的自由或防止这样做的风险,有必要采取立法措施,以清晰、全面的方式表达,公布,根据其目的具有严格相称的内容,并在民主社会中可接受。
在人工智能监管内容方面,应加强数据控制者运作和追求目的的透明度,以及对数据使用提出异议的权利（特别是保护个人’自主权）。同样,我们必须维护人工智能开发人员的责任。这种问责原则导致对他们正在开发的应用程序和相关风险进行多学科和多利益相关方评估。
此外,各国有责任建立一个论坛,让社会可以公开讨论某些大型公共创新的道德方面。
B。关于道德问题的公开社会讨论
这与在哪里进行干预以“保护”人们免受人工智能侵害的问题产生了共鸣。我们是否应该依靠个人接受足够的教育来保护自己？或者政治家是否应该接受足够的教育来保护公民？或者让企业了解得足够多？或者关于制造产品的工程师？所有相关利益相关者都需要在自己的行动领域拥有发言权。没有一个群体可以对所有人负责,因为人工智能素养和控制问题过于复杂,需要许多干预点来引导其朝着好的方向发展。
有些事情应该是自动化的,有些事情则不应该;我们如何知道哪一个是哪一个,我们做出这种区分的理由是什么？我们需要一个“为什么”来确定什么是合法可自动化的,什么不是。集体探索这个“为什么”问题,即我们的需求问题,可能会非常棘手。随着我们文明的快速发展,似乎没有人反对通过人工智能自动化进行授权的力量,因为人类的速度根本不够快。我们已经在高频交易和网络攻击与防御领域看到了这一点。当我们问:什么可以委托,什么不能委托时？这不仅仅是一个关于技术上可行性的问题。这也意味着想知道为什么？
这个关于“为什么”的问题推动我们进入评价反思、价值观和利益的领域。正如一些讨论参与者所提到的,这种反思可能会很困难,因为价值观和利益可能存在很大差异。然而,采取细致入微的方法可能会很有趣。尽管在道德和伦理问题上显然可能存在强烈分歧,但这并不一定意味着不可能达成共识。作为初步近似,似乎有一些基础值可供构建。一些作者提出了 5 个可能具有普遍性的价值观:生存、繁衍、生活在社会中、教育年轻人、寻求真理。[1] 这些价值观可以说是客观的,因为它们对各种各样的人来说都是合理的,因为它们是通过逻辑存在的,在这种情况下是通过矛盾 / 荒谬还原来证明的。
此外,强烈分歧的存在本身并不意味着人们所坚持的价值观之间存在巨大分歧。很多时候,价值观是共同的,但可能会陷入紧张,然后人们对于优先考虑某些价值观而不是其他价值观存在分歧（安全与隐私保护、个人自由与共同利益等）。因此,这意味着我们应该始终反思我们的分歧及其影响（可能存在比我们乍一看认为的更多的共识,以及更多的建设性分歧）。
这使我们能够强调加强所有参与者参与这些社会公开讨论的能力的重要性。正如我们刚才看到的,它需要培养批判性思维。它还需要培养技术和数字素养,以便进行尽可能明智的讨论。
