Ai安全对齐

科技人工智能

AI安全监管提议引发宪法可行性争议

Anthropic首席执行官Dario Amodei发表文章《We Must Pace The Frontier》,提议通过监管手段放缓AI发展速度。该方案包含三个核心要素:嵌入式评估员、民主协调(监管)和全球协调。Amodei主张"最有效的放缓方式是通过针对所有美国前沿AI公司的监管,这样即使是不愿自愿合作的企业也…

科技人工智能

AI 2027:从助手到超级智能的两年演变与对齐危机

OpenBrain首席执行官Sam Altman宣布该公司的目标是实现"真正意义上的超级智能"。根据一份详细的AI发展路线图预测,从2025年中期到2027年10月间,AI技术将经历快速迭代。训练规模方面,GPT-4所需计算量为3×10^23 FLOP,计划中的最大模型达到4×10^27 FLOP——是GPT-4的1…