Meta高管：目前的人工智能“相当愚蠢” 不足以对人类构成明显威胁

公众号：小姨ai

财联社7月20日讯（编辑 牛占林）美国科技巨头Meta的全球事务总裁尼克克莱格表示，目前的人工智能(AI)模型“相当愚蠢”，而且远远没达到足以对人类构成任何形式的“明显威胁”。

克莱格是英国前副首相，于2018年加入脸书母公司Meta，后来被提拔为该公司全球事务总裁，负责Meta与政府的互动、产品的对外宣传等所有政策事务。

在周三接受媒体采访时，克莱格声称，关于人工智能潜在危险的炒作已经超过了其技术的发展。

在谈到Meta发布的开源人工智能模型Llama 2时，克莱格表示，我认为很多的警告与当前不存在的模型有关，即所谓的超级智能、超级强大的人工智能模型，它能够自我思考和自我复制。

克莱格补充说，人工智能发展出自主性和代理权的愿景，目前来看是很不现实的。至少我们的开源模型远远达不到这一点，事实上，在很多方面它们都相当愚蠢。

Meta首席执行官马克扎克伯格最近宣布，名为Llama 2的Meta人工智能模型将免费提供给在微软Azure云计算平台上开发软件的开发者使用。

Meta将把Llama 2作为开源软件发布；“开源”软件通常可供公众广泛使用、修改和共享。

Llama 2的发布料将加剧私人、商用模型的竞争，此类模型包括由OpenAI开发的GPT-4系统。OpenAI是推出热门聊天机器人ChatGPT的初创公司。

对于安全性方面的担忧，克莱格回应称，Meta有350名员工在数月内对其模型进行压力测试，以检查是否存在任何潜在问题，Llama 2比其他任何开源大型语言模型都更安全。

但人工智能语言模型也确实存在一些问题，如传播虚假和错误信息，以及泄露机密数据等，也引起了人们对某些行业就业可能受到影响的担忧。

前谷歌科学家杰弗里辛顿此前指出，人工智能不仅会导致大量工作岗位消失，而且会导致人们没办法知道到底什么才是真实的。如果人工智能变得比人类聪明得多，就会对人类进行操控。

计算机科学专家Wendy Hall认为，Meta的人工智能开源模型问题非常严重，这有点像给人们提供制造核武器的模板。

不过，克莱格反驳称，群体的智慧将使人工智能模型更安全，这比让它们留在大型科技公司的手中更可龋

（财联社 牛占林）

公众号：小姨ai