【Allan短评】 地球人根本还没准备好发展比GPT-4更强大的AI
|作者:(奥克兰)Allan W
地球人根本还没准备好发展比GPT-4更强大的AI,或者可以说AGI。我已经有点担心现有带爬网功能和插件功能的GPT-4是否会很快失控,因为没有人能确切知道这只小老虎被插上各种翅膀后,会演变成怎样的怪物。
马斯克多年的担忧和呼吁到目前为止没引起跨国界的重视,他们现在联名写公开信喊停,是已经预感到情况不妙了…… 希望业界能审慎行事,先慢下脚步,无论如何起码先做笼子。
作为多年IT行业的从业者,我有下述几点担忧:
1. OpenAI 是否有能力和机制确保他们的LLM不被窃取或者扩散,就好比病毒研究所,是否具备达到P3、P4级别的隔绝硬措施;
2. 模型所具备的现有能力,已经可以通过极其乱真的虚构信息,对人类社会/文明产生潜在的负面影响,而且新产生的新内容又可以对它进行再训练;
3. 任何人任何机构都可以开发五花八门的插件,使其能力呈指数级增长……。
我觉得,不可预测的事情不是会不会发生,而是什么时候发生……
有梦人
真的挺危險,非常有必要停下來想清楚,會否生出惡虎,如果有可能,那是否能箍一個籠子確保老虎跑不出去。
路博士
某种控制是有必要,但是请注意AI的发展现在符合摩尔定律。如果美国停止,那么就是给了竞争对手绝好的机会。而且我估计 这封公开信不会起作用,因为对面势力更大。
佛兰克
现在的AI就像30年前的互联网出现一样,是一场技术革命。会带来全世界经济重新布局。墙国会因为技术和信息的封锁,会被世界结构性的甩在后面。
人工智能的危险永远有。最好的策略就是在这种技术很强大,但还不是过于强大的时候去适应调整,找到我们和新技术的最佳相对位置。躲避肯定是不管用的。