驱动中国9月18日消息,据彭博社报道,人工智能领域知名专家吴恩达对当前部分顶尖模型开发商研究人员提出的“AI生存风险”警告提出批评。吴恩达认为,这类关于AI可能导致人类灭绝的担忧更接近于科幻小说情节,而非严谨的科学结论,且可能不利于确保该技术为社会带来最大益处。
作为谷歌大脑和教育平台Coursera的联合创始人,吴恩达指出,在人工智能热潮初期,科技行业曾通过渲染AI潜在灾难性危害来加大宣传力度,其目的显然是为了影响监管走向。他在接受彭博电视采访时表示,过去两周对此感到沮丧,认为这波公关宣传如今再次兴起,可能出于类似目的。
近期,前Anthropic和OpenAI研究员雅各布·考克森(Jacob Coxon)的高调辞职引发了公众对AI安全问题的广泛关注。考克森指责其两名前雇主在“拿人类生命下注”,因为他们竞相开发超级人工智能。他还表示,部分AI开发者认为这项技术可能在十年内对人类构成致命威胁。
在此背景下,包括Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)和OpenAI负责人萨姆·奥尔特曼(Sam Altman)在内的多位AI领袖呼吁业界放缓前沿模型的开发步伐,并采取更多措施保障未来发展。吴恩达早年曾与阿莫代伊和奥尔特曼共事。
尽管吴恩达承认AI确实存在风险,包括网络安全方面的隐患,但他强调有关AI导致人类灭绝的担忧“更像是科幻小说,而非科学”。他建议行业应专注于解决实际的工程问题,以持续改进和保护这项技术,同时努力确保AI能够被应用于实现诸多积极目标。
热门跟贴