一个反AI组织正在要求立即销毁GPT-4！
正当所有人对GPT-5翘首以盼之际，Stop AI，一个自称「非暴力公民抵抗组织」的团体，刚刚发布了他们的政府诉求清单。
而其诉求内容之激进，把我都快看傻了……
其声称：如果不加约束，人类将因AI 的迅猛发展而快速灭绝。
他们不仅要求禁止训练超过10^12 FLOPs的任何神经网络，还要求立即销毁GPT-4及所有类似规模的模型。
很好，这相当于是要让AI 发展倒退回2011年IBM Watson的水平。
他们还列出了名人言论。
当然，首当其冲的自然是那个“恶贯满盈”的始作俑者：Sam Altman。
马斯克：我是凭什么逃过一劫的？
四大诉求
读下来，Stop AI的诉求清单像是部反乌托邦小说：
第一条：
强制所有AI公司关闭通用AI模型开发，销毁现有的通用AI模型，并永久禁止开发。他们把「通用」定义为任何能力等同或超过ChatGPT-4的模型。
理由是这些模型能学习执行未被专门编程的任务，可能导致递归自我改进（RSI），最终快速产生超级智能。
具体要求：任何使用超过10^25 FLOPs训练的神经网络都应立即销毁。但他们觉得这还不够保险，要求将限制降到10^12 FLOPs。
第二条：
解散任何专门从事通用AI开发的公司，有相关部门的公司必须关闭该部门。
第三条：
如果某个领域的大多数专业人士不喜欢AI，就禁止AI在该领域的应用。
第四条：
全面禁止AI生成的图像和视频。
监管机构
更离谱的是，他们还提议建立一个专门的联邦机构来监管AI。
这个机构的成员必须满足三个条件：
-
不能从AI发展中获益
-
必须具备专家级的AI技术理解能力
-
最重要的是，必须相信AI控制问题不可能解决
怎么讲，要能满足这条件的人是真不太多，Yann LeCun 肯定不行，也许……
Hinton 老爷子……？
网友热议
面对这份「死亡通知书」，网友们炸锅了。
OpenAI的工程师Dylan Hunn(@dylhunn)率先送出辛辣点评：
「你甚至不知道这个提案是不是ChatGPT 生成的」
哦亲爱的，AI会写得更好
1a3orn(@1a3orn)给这个监管机构起了个绰号——「图灵警察」：
这些图灵警察必须认为对齐问题不可能解决，否则他们就不会足够坚定地永远禁止进步
Wyatt Walls(@lefthanddraft)更是直言：
这是一个邪教：「这个机构的成员必须相信」
不过也有人表示理解。
s*b*it.the.one(@s_b__t_the_one)认为：
他们完全正确。人类将被推向边缘。是的，这行不通，但说他们疯狂意味着你明显缺乏……好吧，我想说「洞察力」，但你实际上只需要看看周围正在发生的事情
Arctic(@neco_arctic)则没有AI才是真正的灾难：
如果没有变革性的AI，人类除了至少100年的痛苦和苦难之外没有未来。我们已经把地球管理得一团糟，即将爆发。全球气候战争和西方的内爆是最低限度
Blyatopia(@blyatopia)：
总有人会崩溃
禁止汽车 禁止自动织布机 禁止枪支 禁止核武器 禁止计算器 禁止AI
组织活动与成员
Stop AI并非只是在网上喊口号。
从他们的官网可以看出，这是一个有组织的团体。
核心成员包括：
-
Guido Reichstadter（抗议者，@wolflovesmelon）
-
Remmelt Ellen（外联负责人，@RemmeltE）
-
Varvara Pavlova（抗议者）
-
Derek Allen（抗议者，@DerekAl76942374）
-
Sam Kirchner（抗议者，@No_AGI_）
-
还有一位匿名成员负责社交媒体（@StopAI_Info）
他们还提供了大量学习资料，以吸引更多人加入：
甚至，还高频举办活动（不得不说，太会运营了）：
-
8月7日在旧金山Kiitos Cocktail Lounge举办聚会
-
8月11日在伯克利Raleigh’s Pub举办聚会
-
8月22日计划在OpenAI总部（1455 3rd St）举行抗议
而8月22这场针对OpenAI 的拔电源Shut down 活动，目前已经有6人决定参与……
Sam Altman：？？？
看完Stop AI 这份激进提案，我想果然历史上每一次技术革命都会遇到各种阻力：
当印刷术发明时，有人担心它会让人类失去记忆能力；
当火车出现时，有人认为高速移动会让人窒息而死；
当互联网普及时，有人预言它会摧毁人类的社交能力。
现在，轮到了AI。
而Stop AI 认为它会摧毁人类。
最后，Masqeraid(@Sentiinull)指出：
这是一种由AI引发的精神错乱。
究竟谁才是神经病，你站哪边？
Stop AI官网: https://www.stopai.info/
[2]Stop AI关于页面: https://www.stopai.info/about
[3]Stop AI活动日历: https://lu.ma/stopai_info
（文：AGI Hunt）