使用人工智企業1/3能未披露 政府提出強制規則控制風險

【本報悉尼訊】一項針對使用人工智能（ AI） 的企業領導者的調查顯示，三分之一使用人工智能的企業沒有通知他們的員工或客戶他們正在這樣做。

與此同時，聯邦政府為高風險人工智能提出了「強制性」規則，包括可能的人工智能法案和禁止被認為風險太大的技術。

一項針對澳洲企業總裁、技術總監和其他使用人工智能的公司領導者的全面調查發現，大多數人在負責任地使用人工智能方面不成熟或「正在開發」方法。

這些企業領導者表示，他們的公司正在以多種方式使用人工智能，包括提供七天 24小時全天候客戶服務、推薦其他產品以及根據之前的互動為客戶更改價格。

但有一半的人沒有對他們使用人工智能進行人權或風險評估，並表示他們沒有這樣做的計劃。

「護欄」將要求企業披露人工智能的使用方式

隨著人工智能在商業和日常生活中的使用迅速增加，聯邦政府已宣佈打算為高風險人工智能創建「強制性護欄」。

工業部長胡西奇（Ed Husic）表示，人工智能提供了巨大的機會，但目前的標準還不夠。

他說：「澳洲人知道人工智能可以做偉大的事情，但人們想知道如果事情偏離軌道，有保護措施。」

「從今天開始，我們將開始實施這些保護措施。」

政府提出了三種為人工智能制定規則的選項，從調整現有法規的最寬鬆方法，到可能包括禁止被認為風險太大的人工智能技術的獨立經濟範圍法案。

其中一項規則將要求人工智能的「開發人員和部署者」在使用人工智能做出有關他們的決策或他們直接與人工智能或人工智能生成的內容互動時通知個人。

聯邦政府還詢問是否應該禁止描述個人工作表現、偏好和行為或移動和位置等指標以進行「社交評分」的工具。

澳洲科技委員會（Australia’s Tech Council ）表示，人工智能有可能為經濟增加數十億美元，僅像ChatGPT這樣的生成式人工智能就可以在未來五年內為經濟增加1150億元。

但人工智能的潛在危害已經變得更加明顯，政府在其諮詢中發現了人工智能已經造成損害的多個實例。

例如，它發現一些人工智能簡歷篩選應用程式不公平地歧視屬於特定種族和性別的求職者。

曾有過原住民材料在未經同意的情況下被用於訓練人工智或被這些工具盜用的案例。

用於檢測學校和大學考試中人工智能作弊的軟體可能會歧視非英語母語人士，並導致虛假的作弊指控。

去年前三個季度，近 150,000 個新的深度偽造（ deepfake） 色情視頻被上傳到 40 個最常用的深度偽造色情網站——包括機器歌壇天后泰勒·斯威夫特和意大利總理成為目標在內的備受矚目的事件。

在海外，隨著潛在危害的日益明朗，澳洲的盟友已著手制定控制人工智能的法律，包括歐盟通過的世界首個人工智能法案、加拿大和英國制定法律的提案，以及美國幾個州採取措施限制人工智能危害。

澳洲政府正在尋求根據人工智能對個人和社會的風險引入預防措施，類似於歐盟和加拿大採取的措施。

這些措施包括要求人工智能的開發人員和部署者建立問責流程、風險管理流程，允許對人工智能系統進行人工干預，並在使用 人工智能做出有關他們的決策時通知個人。

零售和酒店業在負責任地使用人工智能方面表現最差

政府贊助的負責任人工智能指數詢問了 413 家企業的領導者在聊天機器人、語音識別、機器人和各種其他技術中使用人工智能的情況。

少數公司仔細考慮了如何負責任地使用人工智能，但有一半公司的方法不成熟或成熟。

其中，酒店和零售服務的表現差於其他行業。

當被問及他們的組織是否「告知了包括員工和客戶在內的相關利益相關者在產品和/或服務中使用人工智能和人工智能生成的內容」時，34% 或約 140 名企業領導者表示他們沒有這樣做，也沒有計劃這樣做。

除了強制性護欄提案外，政府還發佈了面向企業的人工智能安全標準，為企業可以實施的護欄保護自身和消費者提供了指導。