歐洲科技公司對歐盟《人工智慧法》獲得關鍵協定反應不一。此前，歐洲議會議員、成員國與歐盟執委會進行一系列馬拉松式的三方談判，該談判於12月8日深夜結束。

儘管法國與德國在最後一刻進行遊說，但該法案將對「高等」通用人工智慧系統(如OpenAI公司開發的GPT-4)以特別安全法規範，這可能帶來「系統風險」，因為這些人工智慧將應用在不同任務上。

這些效能超強大的系統，需定義其所需計算能力並接受額外測試，釐清是否會造成風險，同時呈報嚴重安全事故。科學小組將更新系統風險標準，以跟上發展快速的人工智慧領域。

對於其他功能較弱的系統，監管程度則取決其受評估的風險程度。歐盟執委會表示，「風險最小」的人工智慧系統，如垃圾郵件攔截器將授予「免費通行證」，並針對此節進行更多解釋。

高風險系統，如涉及關鍵基礎設施、人員招聘流程或邊境管制的人工智慧，將會受到更廣泛法規約束，例如針對人工監督、數據品質控制以及風險緩解系統要求。

除了分層系統外，某些應用程式更被澈底禁止，例如在工作場所或教育機構中進行情感辨識，或基於種族或性取向等「敏感」特徵進行的生物辨識分類系統。

整體而言，歐洲數位公司對這種考量風險的分層方法相當滿意。目前掌握在美國科技巨頭手中的通用人工智慧模型未具豁免權，而這也引起擔憂，擔心將整體監管負擔留給歐洲公司，這些公司怕後者會使用通用人工智慧模型建構新應用程式。

歐洲數位中小企業聯盟主席葛籣(Oliver Grün)表示：「我們樂見在透過風險評估監督申請過程，同時監管主導市場的基礎模式，允許數位產業的中小企業在更公平基礎上進行創新與競爭。」

然而，由於該協定全文尚未正式發佈，還不清楚哪些系統將被視為高風險。歷史悠久的科技公司遊說團體歐洲技術聯盟(European Tech Alliance)秘書長波松(Victoria de Posson)提出警告：「目前還不清楚哪些項目歸類在高風險類別中。」她補充說明，其中是否包括推薦的系統在內還尚未界定。

有人擔心，高風險系統相容任務(若影響評估)，則會落在開發人員身上，從而降低歐洲科技公司的吸引力。波松表示：「這任務不簡單。實際上，留住開發人員的同時還要維持誘因非常困難。」數位歐洲(Digital Europe)執行長表示：「除了《數位法》等其他全新法規外，公司還將消耗大量資源以遵守新要求。這些資源會花在律師身上，而非僱用研發人工智慧的工程師。」

測試與審查

德國與法國曾遊說將法案內容中排除通用人工智慧系統，擔心監管會拖緩歐洲國家人工智慧公司的發展速度。例如，總部位於巴黎的公司Mistral AI希望開發此類系統，卻也擔心類似的監管機制會讓其在與美國的競爭中落後。

未來生命研究所(Future of Life Institute)相當在意人工智慧系統存在極端風險，該智庫政策主任布拉克爾(Mark Brakel)表示，將通用系統(又稱基礎模型)納入監管範圍實際上能減輕歐洲公司的監管負擔。

布拉克爾指出，「多數公司不會成為通用人工智慧系統的提供者，而是部署者」。對這些系統進行更嚴格測試與審查，意味著歐洲公司可以更安全地進行創新。布拉克爾說，不應將此種作為視為疊床架屋。

該法案還包括相關單位研擬監管沙箱的規定，讓歐洲公司能在將人工智慧系統在市場推出前，先以實際狀況條件進行測試。

瑞士智庫Pour Demain負責人工智慧項目的專案經理馬提(David Marti)表示，這些措施「應該透過減輕監管負擔，並且對中小企業產生積極影響。」

馬提說：「制定GPAI的美國科技巨擘，有望展示其如何應對模型可能帶來的系統風險。儘管如此，可以忽略這些模型開發商為了符合規定而付出的成本。」

儘管樂見該法案對強大的AI系統施加限制，然而布拉克爾也表示，還缺少一些制衡。例如，學術研究人員沒有權利在頂尖技術的系統上進行測試，以發現危險的能力或偏見。他表示，也不需要獨立監測員來監督最強大模型的內部測試。

澈底禁止

即便在上週五晚間，談判代表取得令人欣慰的勝利，法案相關協定仍僅為暫訂，仍需有歐洲議會和歐洲理事會的批准。

即便最終簽署法案，也還需歷經兩年的生效期，只有少數例外：針對情感辨別等用途的完整禁令將在6個月後實施，而對通用人工智慧系統的監管則將在12個月後施行。

儘管如此，在美國與英國最近針對人工智慧技術採取行動予以限制後，該協定依然使歐盟重新獲得人工智慧的主動管理權，儘管還沒有實際立法。

歐盟執委會主席馮德萊恩(Ursula von der Leyen)在協定達成後表示：「歐盟的《人工智慧法》是全球首部關於人工智慧的綜合法律框架。因此，這是一個歷史性時刻。此協定將歐洲價值觀帶入了新時代。」

資料來源：https://sciencebusiness.net/news/ai/ai-act-agreement-gets-mixed-reaction-european-tech