澳大利亞政府啟動磋商以評估對“高風險”人工智能的禁令 – Cryptopolitan

澳大利亞政府出人意料地啟動了為期八週的諮詢期，旨在確定是否應禁止某些“高風險”人工智能 (AI) 工具。 此前，包括美國、歐盟和中國在內的其他地區也採取了類似措施，以應對與人工智能快速發展相關的風險。

1 月 26 日，工業和科學部長 Ed Husic 公佈了兩篇論文供公眾審查：一篇關於“澳大利亞安全和負責任的人工智能”，另一篇關於國家科學技術委員會的生成人工智能。 這些文件與諮詢期一起發布，該諮詢期將持續到 XNUMX 月 XNUMX 日。

澳大利亞政府尋求有關促進“安全和負責任地使用 AI”的策略的反饋，探索自願道德框架、特定法規或兩種方法的組合等選項。 值得注意的是，諮詢直接詢問是否應完全禁止某些高風險人工智能應用或技術，並就識別此類工具的標準徵求意見。

綜合討論文件包括人工智能模型的風險矩陣草案，將自動駕駛汽車歸類為“高風險”，將用於創建醫療患者記錄的生成人工智能工具歸類為“中等風險”。 該文件強調了人工智能在醫學、工程和法律等領域的積極應用，以及與深度造假工具、假新聞生成以及人工智能機器人鼓勵自我傷害的實例相關的潛在危害。

澳大利亞政府與人工智能

討論文件還解決了對 AI 模型偏差以及 AI 系統產生稱為“幻覺”的無意義或虛假信息的擔憂。 它承認，由於公眾信任度低，目前澳大利亞對人工智能的採用有限。 該文件以其他司法管轄區實施的 AI 法規和意大利對 ChatGPT 的臨時禁令為例。

此外，國家科學技術委員會的報告強調了澳大利亞在機器人技術和計算機視覺方面的優勢能力，但指出了大型語言模型等核心領域的相對弱點。 這引發了人們對生成人工智能資源集中於少數主要位於美國的科技公司的擔憂，這對澳大利亞構成了潛在風險。

該報告進一步探討了全球人工智能監管，提供了生成人工智能模型的示例，並表明此類模型可能會對銀行和金融、公共服務、教育和創意產業等領域產生深遠影響。