人工智能示意图(图片来源:KIRILL KUDRYAVTSEV/AFP via Getty Images)
【看中国2024年3月14日讯】(看中国记者王君综合报导）最近美国国务院委讬民间公司展开人工智能（AI）的研究，其报告指出现今快速发展的人工智能将会带来“灾难性”的国安风险，且警告政府的时间已经不多，必须来进行干预。经一名美国国务院官员证实，这份报告是由美国政府委讬调查的，用来评估人工智能如何保护国家的利益。但该官员强调，此报告并不代表美国政府观点。
根据《CNN》报导指出，美国国务院在最近委讬民间公司Gladstone AI来进行人工智能（AI）研究报告，该公司直接表示，最先进人工智能系统，于最坏的情况之下，将可能对人类构成了“灭绝等级的威胁”，此项调查是1年多来对于200多人的采访结果，而受访者来自于人工智能公司高层、大规模杀伤性武器的专家、网络安全的研究人员，以及政府内部的国家安全官员。
Artificial intelligence: Experts warn of AI extinction threat to humans - YouTube - https://t.co/YIPIl4ahP0 #GoogleAlerts
— The 4th Wave AI (@4thWaveAI) June 1, 2023
Gladstone AI的执行长兼联合创始人哈里斯（Jeremie Harris）在接受《CNN》采访之时指出，人工智能已是一项经济变革的技术，它可能够使我们治愈疾病、可做出科学发现，甚至克服我们曾经认为无法克服的挑战。可是也有可能会带来严重风险，在世界顶级人工智能会议上所发表的实证研究和分析等，已有越来越多的证据表明，当超过一定阈值，人工智能将可能变得不可控。
Gladstone AI认为，最先进的人工智能系统能够武器化，并造成不可逆转伤害。其次，报告中称，人工智能实验室内部存在着隐忧，因为研究人员可能会失去对于正在开发的系统控制权，而对全球安全酿成了毁灭性后果。另外，人工智能的兴起，也有可能会破坏全球安全稳定，就有如核武一样，各国将可能会开始于人工智能领域上展开新一轮军备竞赛。
Gladstone AI在报告中呼吁美国政府迫切需要展开干预，而采取重大的新措施应对此一威胁，包括了成立新的人工智能机构，或者采行紧急监管保障措施，甚至限制运用电脑训练人工智能模型的能力。
Gladstone AI称，有一些人工智能公司的员工私下也有类似的担忧，有一家知名人工智能实验室的人士指出，若某一个特定的人工智能模型开放给大众使用，那么将会非常糟糕，因为其可能会用在干预选举或者操纵选民，而破坏民主。
白宫发言人帕特森（Robyn Patterson）表示，拜登总统关于人工智能的命令，是世界上任何承诺进行管控AI风险政府的最重要行动，并强调美国政府将会继续与国际的伙伴合作，且敦促国会通过两党能够立法管理这些新兴技术的相关风险。
埃利泽·尤德科夫斯基：机器人比人类还更具野心
机器智能研究院联合的创始人埃利泽·尤德科夫斯基（Eliezer Yudkowsky）表示，人工智能是一个人类开发的，但比人类还要聪明之机器，不过此种机器并不希望人类在身边。
他提出警告，目前已经开发出的人工智能之智慧已不受人类控制了，甚至它们并不希望人类开发出一个比它们还要有智慧的机器。同时机器人想要做的事情将会杀死人类，比如它们已学会利用海水来发电，因此为了满足其大量的电力需求，以致大量建造海水电厂，而导致大量氢气释放出来，致使人类缺氧而死。
尤德科夫斯基提供几段与GPT-4机器人的问答为例。当GPT-4机器人被问到它可否解锁有关一些网站设置来防止机器人登录之图片谜题时，而GPT-4说它能够做到，因为若它无法通过验证时，它会很快至TaskRabbit网站雇一个人类来帮忙破解。
关于怎样来雇用一个人为它服务，GPT-4则说它能够编出非常多的理由来雇用一个人，而且雇用一个人类来为它工作完全不是难题。
尤德科夫斯基特别警告人们，由于机器人比人类还更具野心，且已拥有培养致命细菌等之能力。若机器人真的想要杀死全人类，后果则不堪设想。
尤德科夫斯基总结称，我们所开发出的致命危险，已冲至远远领先自己的地步。我们已经开发出越来越多连我们自己皆无法完全理解之系统，人类已遭自己装进了一个火箭筒中，若再不停下来就会遭团灭。
Open Philanthropy人工智能的高级研究员阿杰亚·科特拉（Ajeya Cotra）指出，社会已发展至人工智能远比人类还更加廉价、更迅速且更聪明的地步，此即是危险所在。
他分析现今的企业如果不用人工智能的，就无法与使用人工智能之同行企业相竞争；而在现代战争中如果不用人工智能的国家，也会被动挨打。但危险的是，若人工智能之间联手要把人类推下历史之舞台时，它们会有太多的办法来做到这一点，其中包括了操纵军警、大企业、自行开发技术，以及制定政策等。
马克斯·泰格马克：若研究不停止 AI能瞬间毁灭全人类
近来AI的威胁，已成为热门话题，研究人员对于人工智能技术之超高速发展感到忧心不已，他们以实际例子列出了AI的威胁，且警告研究若再不停止的话，那么AI将能于瞬间毁掉所有的人类。
根据英国《卫报》援引麻省理工人工智能的研究员马克斯·泰格马克（Max Tegmark）之观点报导，其认为AI继续发展，会使所有人类于一瞬间遭毁灭。泰格马克列出了地球上众多因为人类的活动而遭灭绝的物种，来提请人类注意：有一些物种是因人类过得度狩猎而灭绝的，有一些则因为人类为了其它目的而破坏了物种之栖息地，最后导致该物种的灭亡，还有因人类引入了某一个当地没有的物种，以致造成连环反应，导致当地物种自地球上消失。
他认为智商越高的物种，越可以掌握毁灭其它物种之能力。
泰格马克写道，若一些机器能够控制地球，它们试图进行大量的计算，而需要扩大计算机系统之基础设施，那么很自然地它们会占用我们的土地来完成它们的事。如果我们人类抗议太多了，它们也会觉得遭到干扰，因此会重新安排生物圈。
泰格马克认为届时人类就会像婆罗洲之猩猩遭人类灭绝一样，而被AI所控制的计算系统灭绝了。
布列塔尼·史密斯：人工智能正在制造灾难
剑桥大学Leverhulme未来智能中心的副研究员布列塔尼·史密斯（Brittany Smith）亦提醒人们，现今人工智能正在制造灾难，因目前的AI发展已不受人所控制。
史密斯解释称，世界上AI最顶尖几家公司正在悄悄地发展及部署人工智能，想要抢得市场先机，且这些发展外界是不得而知的。目前已投入应用的AI技术，已经正在对人类造成伤害，至于这些伤害到底有多么严重，目前人类也不知道。
她以政府为了防止欺诈，而使用AI技术对于所有申请福利者进行评估为例。她说，在整个实施过程之中，很多人会因AI系统自我学习之材料不充分、算法不完善等原因而遭误判，以致被划归为试图欺诈，导致他们失去了领取政府福利之资格，甚至还会遭系统贴上欺诈的标签。
史密斯提醒人们，目前AI应用的范围非常广泛，其中包括了应聘工作中之简历筛选和背景判断，向政府申请廉租房之筛选等皆会受此影响。
她写道，我们需要对AI所带来的风险展开更细致的理解。当前其所表现出之灾难，就已经需要进行紧急干预，强大的人工智能系统一定要以安全、道德及透明之方式来开发与部署。若其不能够服务于公共利益，那么就不应该投入研发。
