在我放假的一周里，我的同事報(bào)道了將人工智能應(yīng)用在戰(zhàn)爭(zhēng)中可能導(dǎo)致的混亂和倫理問(wèn)題。這話題激起了我的興趣，同時(shí)也讓我血壓飆升。

戰(zhàn)爭(zhēng)和軍隊(duì)正在越來(lái)越多地使用人工智能工具，圍繞由此帶來(lái)的復(fù)雜而微妙的倫理問(wèn)題，我的同事亞瑟·霍蘭德·米歇爾（Arthur Holland Michel）進(jìn)行了出色的報(bào)道。人工智能有無(wú)數(shù)種可能導(dǎo)致災(zāi)難性失敗或在沖突中被濫用的方式，而且似乎還沒(méi)有任何真正的規(guī)則來(lái)約束它。米歇爾的故事展示了，當(dāng)事情出錯(cuò)時(shí)，追究人們的責(zé)任是多么的困難重重。

(資料圖片僅供參考)

2022 年，我報(bào)道了烏克蘭戰(zhàn)爭(zhēng)如何開(kāi)啟了國(guó)防人工智能創(chuàng)業(yè)公司的新熱潮。最近的人工智能炒作只會(huì)加劇這種情況，因?yàn)楣竞蛙姺蕉荚诟?jìng)相將生成式人工智能嵌入到產(chǎn)品和服務(wù)中。

本月早些時(shí)候，美國(guó)國(guó)防部宣布將成立一個(gè)生成式人工智能工作組，旨在“分析和整合”整個(gè)國(guó)防部的人工智能工具，如大型語(yǔ)言模型。

該部門(mén)看中了人工智能工具在改進(jìn)“情報(bào)、操作計(jì)劃、行政和業(yè)務(wù)流程”方面的巨大潛力。

但是米歇爾的研究指出，為什么前兩個(gè)用例可能是糟糕的主意。生成式人工智能工具，如語(yǔ)言模型，是有問(wèn)題和不可預(yù)測(cè)的，它們會(huì)編造一些東西。它們也有大量的安全漏洞、隱私問(wèn)題和根深蒂固的偏見(jiàn)。

在高風(fēng)險(xiǎn)的環(huán)境中應(yīng)用這些技術(shù)可能會(huì)導(dǎo)致致命的事故，我們甚至不清楚誰(shuí)該為此負(fù)責(zé)，甚至不清楚問(wèn)題發(fā)生的原因。每個(gè)人都同意人類應(yīng)該作為最終的決定者，但由于技術(shù)的不可預(yù)測(cè)性，尤其是在快速發(fā)展的沖突局勢(shì)中，這一點(diǎn)變得有為困難。

有些人擔(dān)心，當(dāng)事情出錯(cuò)時(shí)，層級(jí)最低的人將付出最高的代價(jià)：“在事故發(fā)生時(shí)，不管是人錯(cuò)了，是計(jì)算機(jī)錯(cuò)了，還是他們都錯(cuò)了，做出‘決定’的人將承擔(dān)責(zé)任，并保護(hù)指揮鏈上的其他人免受承擔(dān)責(zé)任的負(fù)面影響，”米歇爾寫(xiě)道。

當(dāng)人工智能在戰(zhàn)爭(zhēng)中失效或帶來(lái)負(fù)面影響時(shí)，似乎唯一不會(huì)面臨后果的是提供這項(xiàng)技術(shù)的公司。

當(dāng)美國(guó)為管理戰(zhàn)爭(zhēng)中的人工智能制定的規(guī)則僅僅是建議，而不是法律時(shí)，這顯然幫助了企業(yè)。這使得追究任何企業(yè)的責(zé)任變得非常困難。就連歐盟即將出臺(tái)的，針對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的全面監(jiān)管法案《人工智能法案》（AI Act）也將軍事用途排除在外，而軍事用途可以說(shuō)是所有應(yīng)用中風(fēng)險(xiǎn)最高的。

雖然每個(gè)人都在為生成 AI 尋找令人興奮的新用途，但我個(gè)人卻迫不及待地想讓它變得無(wú)聊。

有早期跡象表明，人們開(kāi)始對(duì)這項(xiàng)技術(shù)失去興趣，公司可能會(huì)發(fā)現(xiàn)，這類工具更適合于日常、低風(fēng)險(xiǎn)的應(yīng)用，而不是用來(lái)解決生死存亡這種人類所面臨的最大的問(wèn)題。

例如，將人工智能應(yīng)用于 Excel、電子郵件或文字處理等生產(chǎn)力軟件，可能聽(tīng)起來(lái)很無(wú)聊，但與戰(zhàn)爭(zhēng)相比，這是一個(gè)風(fēng)險(xiǎn)很低的應(yīng)用，而且足夠簡(jiǎn)單，有可能像公司宣傳的那樣真正發(fā)揮作用，創(chuàng)造價(jià)值。它可以幫助我們更快更好地完成繁瑣的工作。

無(wú)趣的人工智能應(yīng)用不太可能輕易崩潰，最重要的是，它不會(huì)殺死任何人。希望很快我們就會(huì)忘記我們是在與人工智能互動(dòng)：不久之前，機(jī)器翻譯還是人工智能領(lǐng)域一個(gè)令人興奮的新事物，而現(xiàn)在，大多數(shù)人甚至不會(huì)意識(shí)到它在驅(qū)動(dòng)谷歌翻譯方面所起的作用。

（來(lái)源：AI 生成）

這就是為什么我更有信心，像國(guó)防和軍方這樣的組織將成功地在行政和業(yè)務(wù)流程中應(yīng)用生成式人工智能。

無(wú)趣的人工智能并不容易陷入道德困境。雖然它聽(tīng)起來(lái)缺乏一種魔力，但它是有效的。

作者簡(jiǎn)介：梅麗莎·?；R（Melissa Heikkil?）是《麻省理工科技評(píng)論》的資深記者，她著重報(bào)道人工智能及其如何改變我們的社會(huì)。此前，她曾在 POLITICO 撰寫(xiě)有關(guān)人工智能政策和政治的文章。她還曾在《經(jīng)濟(jì)學(xué)人》工作，并曾擔(dān)任新聞主播。

支持：Ren

關(guān)鍵詞：