【TechOrange 编辑部推荐好书：《AI世代与我们的未来》】
最近 ChatGPT 、AI 绘图软体相当火红，也有人开始靠这些工具产出文案或画作来赚钱。这也意味着随着 AI 技术越来越进步，人们也会越来越难分辨各种资讯、影像的真假。而 AI 技术也可能被有心人士拿来制造假消息，或应用在军事上，造成我们无法想像的後果。
当代三位跨领域的世界领导者提出，关於人工智慧最重要的议题是人类监督与适时干预的能力 ，并探讨人工智慧的使用伦理是什麽？
文 / 亨利．季辛吉、艾力克．施密特、丹尼尔．哈腾洛赫，译者 / 叶妍伶
生成型人工智慧，恐成为煽动社会的最佳工具
人工智慧开启了资讯领域战力的新视野。生成型人工智慧可以创造许多真假难辨的假消息。由人工智慧促成的不实资讯或心理战，包括使用人造的人物、图片、影片、演讲在自由社会里创造新的罩门。
许多游行活动的照片和影片被广为转载，也创造出很多逼真的照片和影片，伪造公众人物说出他们从未说过的话。理论上，人工智慧可以找到最有效的方法来传递这些合成的内容，针对特定族群的偏见和期待来订制人工智慧生成的内容。
如果国家元首的合成图像经过对手变造，来煽动社会不和谐的气氛，或发起让人误解的指令，大众（或甚至其他政府与官员）能即时分辨真假吗？
想知道 2023 年关於 AI 的最新趋势与台湾企业行动方案吗？→ 立即下载《TechOrange 2023 趋势观察报告》最不可预测的後果，发生在人工智慧与人类智慧相遇之处
核子武器的领域里有广为接受的禁令，还有清楚的吓阻概念（冲突升高的程度），但关於人工智慧的运用，这些都不存在。美国的对手正在准备由人工智慧辅助的实体武器和网路武器，根据报导，有些已经在使用了。
人工智慧的力量准备要部署机械和系统，运用快速的逻辑和应变的行为来攻击、防御、侦搜、散播不实资讯、辨识对方的人工智慧、中止对方的人工智慧。
人工智慧的能力在进化和扩散，大国在没有可验证的限制之下，会继续努力追求优势地位。他们会预设只要有用的新人工智慧能力出现，人工智慧必然扩散、普及。由於人工智慧科技可军民两用，容易复制和传播，人工智慧的基础功能和关键创新一定有很大一部分是公共、公开的。
人工智慧被控制的地方，那些控制措施一定会被证明不够完美，不管是因为科技进步让这些控制措施过时落後，或因为这些控制措施只要对方下定决心就一定能找到方法渗透。新用户可能会为了不同的目标去调整底层的演算法。
一个社会里的商业创新，可能会被另一个社会转用成安全用途或资讯战用途。人工智慧发展最尖端的部分里最具战略意义的那些层面，会经常被政府采用，以符合国家利益。
很多人想进行网路权力平衡或将人工智慧吓阻化为具体的概念，若真写得出来，那也还很初期。在这些概念定义出来之前，各种规划都很抽象。在冲突中，交战的一方可能会想要用这种人类还不完全明白效果的武器来压制对方的意志，会威胁对方要用上这种武器。
最具革命性也最不可预测的後果，会发生在人工智慧与人类智慧相遇之处。历史上，备战的国家都明白对手的准则、战术和战略心理学，纵使有时候理解并不完美，但多少知情，所以才能发展出对抗的战略与战术，以及象徵性军事行动的沟通方式，例如拦截靠近领空边界的飞机、让战舰经过有争议的水道。
可是军队用人工智慧来计画或锁定目标的时候，就算是在巡逻或冲突中顺势协助，这些原本熟悉的概念和互动可能会变得很陌生，因为军队要和不熟悉这种方法与战术的人工智慧沟通，还要加以诠释与解读。
为什麽人工智慧需要受到监控？
从根本上来说，切换到人工智慧与人工智慧辅助的武器和防备系统，会依赖一种具有强大分析潜力的智慧，在极端情况下甚至要委托这种智慧，而这种智慧则运行在一种完全不同的经验典范上。这种依赖会带来未知的风险以及我们无法透彻理解的风险。
为此，人类操作员一定要监控人工智慧的行动，因为这种行动有可能致命。如果这个人类的角色不能避免所有的错误，至少能确保道德与责任的底线。
最深层的挑战其实是哲学问题。如果战略的各方面在概念或分析领域运作，而人工智慧可以理解这些领域，但人类的理性却无法理解，这些战略—不管是推演的过程、执行的范围或最终的意义—就会变得不透明。
若政策制定者得出结论，认为人工智慧协助我们抽丝剥茧，了解真相最深层的模式，我们必须得到这项资讯才能理解对手的能力与意图（而他们也可能布建了自己的人工智慧），即时回应，那麽未来势必会把重要决策委由机械进行。至於哪些事务可以委托机械，又要接受什麽风险和後果，不同的社会可能会有不同的限制。
主要大国不应该等到危机出现才开始针对这些演变的战略、准则与道德後果开始对话。如果选择等待，那後果可能无法逆转。国际间必须试着去限制这些风险。
》下载 TechOrange 2023 趋势观察报告《购书连结：《AI世代与我们的未来》
*本文书摘内容出自《AI世代与我们的未来》，由 联经出版 授权转载，并同意 TechOrange 编写导读与修订标题。首图来源：deep ai
（责任编辑：游绒绒）