7 月 19 日消息，昨日舉辦的阿斯彭安全論壇（Aspen Security Forum）會議中，谷歌、微軟、OpenAI、亞馬遜、英偉達(dá)、英特爾等 14 家 AI 領(lǐng)域的大公司宣布聯(lián)合組建安全人工智能聯(lián)盟（Coalition for Secure AI，CoSAI）。
CoSAI 由 OASIS 全球標(biāo)準(zhǔn)機(jī)構(gòu)主辦，是一項開源計劃，旨在為所有 AI 從業(yè)人員和開發(fā)人員提供創(chuàng)建設(shè)計安全人工智能系統(tǒng)所需的指導(dǎo)和工具。CoSAI 將建立一個合作生態(tài)系統(tǒng)，共享開源方法、標(biāo)準(zhǔn)化框架和工具等等。
CoSAI 的創(chuàng)始贊助商包括谷歌、IBM、英特爾、微軟、英偉達(dá)和 PayPal。其他創(chuàng)始贊助商包括亞馬遜、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。
CoSAI 首先將致力于實現(xiàn)三個目標(biāo)：
-
開發(fā)人工智能安全的最佳實踐
-
應(yīng)對人工智能領(lǐng)域的挑戰(zhàn)
-
確保人工智能應(yīng)用的安全
CoSAI 的工作范圍包括安全地構(gòu)建、集成、部署和運(yùn)行人工智能系統(tǒng)，重點是降低模型盜竊、數(shù)據(jù)中毒、提示注入、規(guī)模濫用和推理攻擊等風(fēng)險。
CoSAI 是一個開源社區(qū)，由項目理事會和技術(shù)指導(dǎo)委員會領(lǐng)導(dǎo)，前者負(fù)責(zé)推進(jìn)和管理其總體技術(shù)議程，后者由學(xué)術(shù)界和產(chǎn)業(yè)界的人工智能專家組成，負(fù)責(zé)監(jiān)督其工作流。
IT之家附上谷歌安全副總裁希瑟?阿德金斯（Heather Adkins）在聲明中的部分內(nèi)容如下：
AI 發(fā)展多年，為防御者帶來的持續(xù)潛力，同時也認(rèn)識到它為對手帶來的機(jī)遇。
CoSAI 將幫助大大小小的組織安全、負(fù)責(zé)任地整合人工智能，幫助他們利用人工智能的優(yōu)勢，同時降低風(fēng)險。