跳到主要內容
:::

英美合作測試先進人工智慧系統的安全性

英美兩國簽訂的備忘錄,反映雙方政府在人工智慧推廣上做出更多努力。人工智慧也將在本周稍晚列入美國與歐盟貿易與技術委員會的會議議程。

 

英國與美國於4月1日簽署合作備忘錄,承諾全面測試最先進的人工智慧模組。英國與美國人工智慧安全研究所已同意建立一套用來測試通用人工智慧安全性的方式,並共同分享,包括兩機構間可能進行人員交流。雙方還將針對可公開模組至少進行一次聯合測試。

 

至於英美協議,英國科學部長多內蘭(Michelle Donelan)在聲明中表示,「該協議是里程碑,因為英美兩國深化雙方長久以來存在的特殊關係,以因應這一代人所面對具決定性角色的技術挑戰。確保人工智慧的安全發展是全球共同議題。唯有透過共同努力,才能直接面對技術風險,並利用其巨大潛力來幫助人類過上更輕鬆、更健康的生活。」

 

美國商務部長雷蒙多(Gina Raimondo)同樣也在聲明中表示,雙方夥伴關係將加快大西洋兩岸的作業進程,以因應國家安全和更廣泛社會風險。「由於雙方合作,相關研究單位將能更進一步瞭解人工智慧系統,並進行更有力評估,訂定更嚴謹的指導原則。」

 

英美間的協議廣受肯定,部分人士呼籲在人工智慧監管方面制定一套能讓世界各國參照的模式,尤其歐盟更是大聲疾呼。Iris.ai 的首席政策官兼聯合創辦人艾比嘉德(Anita Schjøll Abildgaard)表示,「未能整合利益關係人的面向,恐提升在主要地區採取分散方法的風險。這會是一套用在研究導航與文本理解的科學工具。」

 

協議書中提及的合作關係立即生效,並且將遵循2023年11月在英國布萊切利公園舉行的人工智慧安全高峰會上所做承諾,爾後兩國建立人工智慧安全研究所。高峰會的重點放在前述人工智慧所帶來的風險,英國擔心這些強大的通用模組可能會對國家安全構成威脅,例如強化生物武器製造。

 

歐盟執委會人士表示,樂見民主國家間相互合作,並且共同致力確保負責發展可信賴人工智慧。歐盟也將繼續與英美在人工智慧管理方面開展雙邊合作,並在G7、聯合國與歐盟執委會等組織進行合作。

 

2024年4月4日至5日在魯汶舉行的歐盟-美國貿易與技術委員會(Trade and Technology Council, TTC)中,歐盟執委會將說明歐盟人工智慧辦公室與美國人工智慧安全研究所進行的合作方案。

 

發言人表示:「這將深化雙方合作,特別是促進各自實體和附屬機構,就基礎、潛在風險與未來技術趨勢等議題,進行科學資訊交流。」歐盟與英國就人工智慧安全議題保持密切聯繫。

 

由於最近多半最熱門的人工智慧技術都是開發自美國業界,因此人工智慧開發與監管的議題,已成為跨大西洋貿易關係中存有爭議的部分。今年3月,歐洲議會通過了《人工智慧法》,這是一套綜合性法規,旨在協調27個成員國有關人工智慧規則。該法被稱為是為了防止人工智慧過度發展的應變措施,更有人批評其為干預自由技術貿易主義的障礙。

 

在此同時,美國拜登政府不斷逐步增強對人工智慧發展的監督,到目前為止,在政治兩極分化的美國國會,還沒有對此進行任何立法。2023年10月,美國總統拜登簽署一項行政命令,為人工智慧系統開發人員制定新標準,並採取措施防止人工智慧被用於製造生物威脅。在過去五年間,美國50個州中有17個州頒布有關人工智慧的規範。

 

上周美國管理和預算辦公室(Office of Management and Budget)宣佈針對聯邦部門與機構的新指導方針,要求其指定一名人工智慧事務官,並制定相關策略,以負責任態度利用人工智慧。

 

資料來源:UK and US to work together to develop safety tests for advanced AI systems | Science|Business (sciencebusiness.net)

更新日期 : 2024/05/17