Stop AI组织抗议OpenAI开发AGI技术

近日，一群活动人士在美国旧金山集会，正式成立了名为“停止人工智能”（Stop AI）的非暴力公民抵抗组织。该组织的目标是阻止人工智能的进一步发展，尤其是针对通用人工智能（AGI）的研究。OpenAI将AGI定义为在多数经济价值工作中超越人类的高度自主系统，而Stop AI认为其影响巨大且危险，主张彻底禁止。Stop AI在其网站上公布了一系列目标，包括要求政府强制人工智能公司关停与通用人工智能模型创建相关的一切工作，销毁现有模型并永久禁止其开发。不过，他们并非要禁止所有人工智能，而是仅针对那些威胁人类生存的部分。

Stop AI的主要行动策略是通过组织抗议活动来扩大影响力。他们最近又开始“围攻”OpenAI位于旧金山的总部进行抗议。此前，该组织已在OpenAI办公室及其他地方举行过多次抗议活动。其中，两位联合创始人Sam Kirchner和Guido Reichstadter，因在去年10月封锁OpenAI的入口被捕。Stop AI成员Finn van der Velde表示，要阻止AGI出现，可能需要一项国际条约，各国共同约定不开发AGI，这意味着要解散像OpenAI这样以开发AGI为目标的公司，同时监管计算能力，防止有人训练出AGI模型。

Stop AI组织抗议OpenAI开发AGI技术

在抗议活动中，也有人呼吁对OpenAI前雇员、侵权举报人Sunchir Balaji的死亡展开进一步调查。Balaji于2020年开始担任OpenAI研究员，辞职后公开声称该公司在开发ChatGPT时违反了版权法。他的父母表示，在他去世前四天，他被传唤为一起针对OpenAI的案件作证。Stop AI认为，Balaji的死亡可能并非自杀而是被杀，被杀的原因就是为了阻止他说出ChatGPT版权问题的真相。

Stop AI提到了对人工智能巨头寻求创造“超级智能”的道德担忧。Stop AI由联合创始人Sam Kirchner和Guido Reichstadter领导，目前已经在OpenAI办公室外进行过抗议活动。他们担心该公司的技术可能会导致“人类灭绝”，并设定了一个大胆目标，希望能获得美国3.5%人口（即1100万人）的支持。Stop AI的成员来自于计算机、机械和数学相关领域，创始成员Sam Kirchner拥有机械和电气工程背景，而Reichstadter则曾担任珠宝商20年，并获得了物理和数学学士学位。

Stop AI组织抗议OpenAI开发AGI技术

Stop AI发起抗议和公民抵抗行动，目的是让公众了解到，尽管旧金山的人工智能科技公司承认通用人工智能存在导致人类灭绝的风险，但仍在推进相关研发。有专家甚至预测，通用人工智能可能在今年就会问世。他们强调，人工智能存在极大危险性，所谓的人工智能安全只是幻想，无法通过实验证明其不会产生危害人类的想法，这与人类曾经导致其他物种灭绝的情况类似。此外，通用人工智能还可能对民主制度造成永久性破坏，同时导致大规模失业，使许多人失去生活目标。

对于人工智能的发展，业内看法不一。部分从事人工智能工作的人员认为，研发通用人工智能/超级人工智能（AGI/ASI）可以帮助解决如癌症治疗、气候变化等难题。但Stop AI反驳称，在无法确保其永远安全、不会危及人类生存的情况下，进行此类研发毫无意义，毕竟从实验角度证明其安全性是不可能的。目前，关于通用人工智能的研发与限制争议不断，其未来走向备受社会各界关注。

Stop AI组织抗议OpenAI开发AGI技术

值得一提的是，截至目前，Stop AI已经筹集了6685美元资金。AI发展引争议：期待与恐惧并存。“我们正试图永久禁止通用人工智能（AGI）的发展，”Kirchner在接受The Register采访时表示。“粗略地说，AGI指的是在所有技术领域都比所有人类专家更强大的系统。”AI大神杰弗里·辛顿曾预测，未来20年内人工智能超越人类智能的可能性约为50%。与其他人工智能反对者一样，Kirchner也担心人类会失去控制。Kirchner对人工智能发展的担忧并非个例。早在大语言模型爆发之前，埃隆·马斯克在2014年就曾提到过，利用AI，就像是在“召唤”恶魔。

随着人工智能技术的快速发展，人们对其潜在影响的看法呈现出两极分化的态势，既有着深切的担忧，也不乏对其积极作用的认可。许多人认为意识是极为复杂独特的现象，人工智能难以企及，它本质上只是进行统计计算的机器，缺乏感受、情感和理解能力，一切行为皆按程序执行，与人类拥有自由意志截然不同。尽管目前关于人工智能“安全性”的争论不绝于耳，但许多人对其安全的具体范畴仍感到困惑。当前，人们对人工智能的担忧主要集中在两个方面。其一，人工智能生成虚假内容的能力可能带来严重危害。在政治领域，虚假信息本就泛滥，人工智能的介入可能使情况雪上加霜，进而引发法律问题，例如无辜者被误指犯罪，有罪者却借此获取不在场证明；在金融经济领域，也可能引发欺诈、敲诈勒索等问题。并且，人工智能对社会潜在危害的方式众多，许多仍有待发现。其二，人工智能可能导致大规模失业。以好莱坞编剧罢工事件为例，编剧们担心自己会被人工智能生成的剧本替代，尤其是当他们过往的作品被用于训练人工智能引擎时。同样，艺术家们也忧心人工智能生成的图像和音乐将取代自己的创作。此外，像体育赛事摘要这类常规工作，几乎肯定会被人工智能接管。

Stop AI组织抗议OpenAI开发AGI技术

不过，人工智能也展现出了巨大的积极潜力。在医疗领域，人工智能可以通过对海量医疗数据的分析，帮助医生更准确地诊断疾病，预测疾病的发展趋势，甚至协助研发新的药物。例如，一些人工智能系统能够快速识别医学影像中的异常，提高癌症等疾病的早期诊断率，为患者争取宝贵的治疗时间。在交通领域，自动驾驶技术作为人工智能的重要应用之一，有望大幅提高交通安全性和效率。通过传感器和算法，自动驾驶汽车可以实时感知周围环境，做出更快速、准确的驾驶决策，减少人为失误导致的交通事故。同时，智能交通系统还能优化交通流量，缓解拥堵，降低能源消耗。

在人工智能技术持续革新的当下，如何平衡其发展与潜在风险，成为全社会亟待思考的重要议题。

文章网址：https://www.wpbull.com/ai/22572.html