AI监管新纪元：Altman倡建顶尖AI国际监管机构

AI监管新纪元：Altman倡建顶尖AI国际监管机构

sam altman 的访谈又来了，这次是在哈佛大学全球社会商业研究所：

OpenAI CEO Sam Altman on AI’s Impact

on Business and Society

以下是一些关键信息摘要：

政府在AI领域的角色至关重要

在人工智能领域，如何让政府与社会各界协同合作，正成为亟待解决的关键问题。Sam Altman强调，未来几年内预期的技术进步使得这一议题愈发重要且紧迫。为了促进产业界与政府部门间的沟通，共同探讨如何有效利用并规范这一技术，初步的对话机制显得尤为关键。Altman认为，这种交流是确保技术发展与社会需求相协调的第一步，有助于我们在面对经济结构剧变时，重新审视社会契约的本质，比如资本与劳动力之间的平衡关系，这需要全社会展开深入的辩论

展开全文

渐进式部署策略利于社会适应

Altman所推崇的逐步部署策略，即在研发过程中不断推出新系统，而非闭门造车十年后一次性投放成熟AI，为适应即将到来的工作形态变化提供了缓冲期。他预测，数十年后的工作面貌将与我们今天的认知大相径庭，因此政策制定应紧跟科技进步的步伐。Altman以科学为基础的政策制定原则，指出理论上看似完美的政策，若技术路径出现巨大偏差，可能就需要完全不同的政策工具来应对

他提出的一个颇具吸引力的想法是，建立一个类似国际原子能机构（IAEA）的组织来监管高级AI系统。按照这一构想，全球范围内拥有顶级AI系统的机构需接受类似于武器检查员的监督，而国际政策则聚焦于预防可能波及所有人的灾难性风险

AI潜力认知

谈及个人对AI潜力的深刻认识，Altman回忆起在OpenAI初期，团队发现语言模型随着规模的扩大展现出惊人可预测性的那一刻，他意识到AI的影响将远超最初的设想。这一发现促使他们认识到深度学习的有效性及其随规模增长的性能提升，也预示着AI将在社会、经济乃至工作本质的重塑中扮演核心角色

就在刚刚，Altman 推文总结了最近去大学演讲的收获：

sam 说：利用科技创造

✅ 富足

✅ 智能

✅ 能量

✅ 长寿

不会解决所有问题，也不会神奇地让每个人都快乐。 但这无疑是一件伟大的事情，它拓展了我们的选择空间。 对他来说，这就像是一种道德义务

Altman 本来以为这是大家的共识，但是通过在斯坦福大学，哈佛大学的反馈来看，在某些人群中，这是一个令人惊讶的有争议的观点，不过他坚持认为繁荣是一件好事，目前要做就是不断向前发展人工智能