英國:人工智能聊天機器人或存在網絡風險(圖)
英國政府發出警告,若是公司機構將人工智能聊天機器人應用到其業務中,則存在網絡安全風險。(圖片來源:LIONEL BONAVENTURE/AFP/Getty Images)
【看中國2023年8月31日訊】(看中國記者東辰雨編譯/綜合報導)2022年11月,OpenAI推出人工智能(AI)聊天機器人ChatGPT風靡全球,隨之所出現的風險引起各國關注。英國政府發出警告,若是公司機構將人工智能聊天機器人應用到其業務中,則存在網絡安全風險。
人工智能聊天機器人存在網絡安全風險
英國路透社報導,8月30日,英國國家網絡安全中心(National Cyber Security Centre,NCSC)發表博客文章(blog post)警告,科技專家尚未解決與可以生成人類發音交互的算法(generate human-sounding interactions)相關的潛在安全問題,這種算法又稱為大型語言模型(large language models,LLM),可能會帶來網絡安全風險。
英國國家網絡安全中心表示,科技專家和研究人員已經多次找到了引導控制人工智能聊天機器人的方法,通過向聊天機器人提供惡意命令或欺騙它們繞過內置的防護系統。例如,銀行使用的人工智能聊天機器人可能會被黑客誘騙進行未經授權的交易。
路透社與伊普索(Ipsos poll)最近一項民意調查發現,許多企業員工正在使用人工智能聊天機器人ChatGPT 等工具來幫助完成基本工作人物,例如起草電子郵件、總結文檔和進行初步調查研究。約10%的受訪者表示,他們的老闆明確禁止使用外部人工智能工具,而25%受訪者不知道他們公司是否允許使用這種人工智能技術。
人工智能的安全影響仍然是全球各國關注的焦點,美國和加拿大當局表示,他們已經發現黑客在利用人工智能聊天機器人。
網絡安全公司RiverSafe首席技術官奧塞洛卡·奧比奧拉(Oseloka Obiora)表示,如果企業沒有引入必要的檢查和防護措施,那麼人工智能融入商業競爭中將產生「災難性後果」。
為全球首部AI法案鋪路 歐盟提出生成式AI新法規
政治新聞網站Politico報導,根據獲得的歐盟執委會4頁文件內容顯示,歐盟執委會針對關於使用ChatGPT、Bard等在內的生成式AI工具制定了職員指南。新職員指南主要目的是「幫助職員評估在線可使用的生成式AI工具的風險和侷限性,並為他們在委員會工作活動中安全使用設定條件。」
除了概述AI功能之外,還制定了委員會職員使用此類工具是應遵守的5項主要規定,包括:使用生成式AI工具時不得洩露不屬於公共領域的信息;要意識到AI存在可能不正確或帶有偏見的回應;思考AI是否可能侵犯知識產權;官方公文禁止複製粘貼AI生成的內容;在處理「關鍵和時間敏感的流程」時避免使用AI工具。
《人工智能法案》是歐盟委員會於2021年4月21日提出的一項法規,旨在為AI引入一個共同的監管和法律框架。它的範圍涵蓋所有部門(軍事除外),以及所有類型的AI。作為產品監管的一部分,該提案不賦予個人權利,而是規範AI系統的提供者,以及以專業身份使用它們的實體。
一些特別關鍵的應用已經需要根據現有歐盟法律監督合格評定,例如醫療設備,供應商根據AI法案要求進行的自我評估是否會被根據該法規進行評估的公告機構考慮,例如醫療器械法規。該提案還將禁止某些類型的應用程序,即遠程生物特徵識別、潛意識操縱人員的應用程序、以有害方式利用特定群體弱點的應用程序以及社會信用評分。對於前三個,提出了執法的授權制度背景,但社會評分將被完全禁止。該法案還提議引入一個歐洲人工智能委員會,該委員會將鼓勵國家合作並確保法規得到遵守。
路透社報導,歐盟AI法案近期提出有關ChatGPT等AI生成工具的新法規,AI生成工具公司必須披露任何用於開發其系統的受版權保護的知識產權,新法規可能為歐盟AI法案成為世界上第一部管理AI技術綜合法律鋪平道路。
2年前,歐盟委員會開始起草有關AI的法案,用以規範新興的AI技術。在OpenAI的AI聊天機器人ChatGPT發布之後,AI技術的投資和受歡迎程度都出現了激增現象。
歐洲議會成員同意將《人工智能法案》提案推進到下一階段,即三方會議。在此期間,歐盟立法者和成員國將討論該法案的最終細節。
根據提案,AI工具將根據其感知風險級別進行分類:從最低到有限、高和不可接受。令人擔憂的AI技術領域可能包括生物識別監控、傳播錯誤信息或歧視性語言。
雖然高風險的AI技術工具不會被禁止,但需要在使用操作過程保持高度透明。例如,ChatGPT或圖像生成器Midjourney等AI生成式工具公司還必須披露用於開發其系統的任何受版權保護的知識產權。
報導引述熟悉內情的消息人士透露,歐盟有關AI的新法規條款是在過去2週內擬定的。歐洲委員會部分成員最初提議完全禁止將受版權保護的知識產權用於訓練生成式AI模型,但由於透明度要求而被放棄。
来源:看中國
短网址: 版權所有,任何形式轉載需本站授權許可。 嚴禁建立鏡像網站。
【誠徵榮譽會員】溪流能夠匯成大海,小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員:每位榮譽會員每年只需支付一份訂閱費用,成為《看中國》網站的榮譽會員,就可以助力我們突破審查與封鎖,向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊, 在危難時刻向他們發出預警,救他們於大瘟疫與其它社會危難之中。
看完這篇文章您覺得
- 日片《完美的日子》:光影交織中的美和釋然(組圖)
- 大開眼界!創記錄的「人體噴泉」(組圖)
- 習近平忌憚三個紅二代(組圖)
- 【宋紫鳳專欄】從潘美到潘仁美 是藝術加工還是神來之筆(組圖)
- 江曾一政策藏汙納垢 老虎前仆後繼終南捷徑(組圖)
- 中國經濟舊模式大潰敗 注定一個時代已經結束(圖)
- 傳中共淹死大批軍人 李強提出辭職(圖)
- 重磅!中共眾多大人物被抓 有人已被秘密槍斃(圖)
- 胡錦濤不行了?傳微博一度變灰白抖音現蠟燭(圖)
- 鐵腕驚人!習近平秘密講話內容曝光(圖)
- 習要復刻 活捉四人幫的宮廷政變?(圖)
- 生死存亡之秋 紅二代預聯手政變(圖)
- 紅色背景的燕子 墮入冷宮的鳳凰(圖)
- 習近平這是在警告俞正聲?孫志剛家人4月已被帶走(圖)
- 中共肺炎(又称武漢肺炎)
- 病毒
- COVID-19
- 疫苗
- 台鐵
- 拜登
- 川普
- 特朗普
- 國安法
- 貿易戰
- 習近平
- 華為
- 三峽大壩
- 新疆棉
- 長江
- 洪水
- 袁弓夷
- 港版國安法
- 漢光演習
- 國民黨
- 退黨
- 弗洛伊德
- BLM
- 中共
- 閻麗夢
- 金正恩
- 王岐山
- 賴清德
- 孟晚舟
- 關稅
- 邊境牆
- 彭斯
- 美國
- 貿易談判
- 劉鶴
- 王滬寧
- 江澤民
- 崔永元
- 中南海
- 內幕
- 中共
- 反送中
- 貪官
- 情婦
- 腐敗
- 反腐
- 打虎
- 官場
- 看中國
- 一國兩制
- 法廣
- 社交媒體
- 往事微痕
- 出賣國土
- FB
- 六四
- 朝鮮
- 加拿大
- 脫歐
- 央行
- 債務
- 槓桿
- 美元
- 貨幣
- 人民幣
- 歐元
- 日元
- 港幣
- 房地產
- 樓市
- 財政
- 財富
- 中產
- 海參崴
- 台灣
- 蔡英文
- 北京
- 劉強東
- 大媽
- 房價
- 疫苗
- 非洲豬瘟
- 大陸
- P2P
- 霧霾
- 基因編輯
- 防火牆
- 維權
- 709律師
- 上訪
- 法輪功
- 網絡審查
- 活摘器官
- 江東六十四屯
- 唐努烏梁海
- 長白山
- 白龍尾島
- 江心坡
- SARS
- 新疆勞改營
- 言論自由
- 女主播
- 央視
- 華人
- 移民
- 華人
- 留學
- 海關
- 遣返
- 簽證
- 回國
- 入籍
- 綠卡
- 民生
- 海外
- 加拿大
- 澳洲
- 民國
- 桂軍
- 抗戰
- 孫中山
- 蔣介石
- 宋美齡
- 鄧小平
- 林彪
- 劉奇
- 中共
- 皇帝
- 諸葛亮
- 易經
- 幽默人生
- 智慧
- 感悟
- 手機
- 預言
- 奇聞
- UFO
- 外星人
- 壽命
- 文革
- 養生
- 紫鳳
- 貫明
- 李道真
- 軼飛
- 李雲飛
- 雲中君
- 辛思
- 夏聞
- 時代漫談
- 滄海
- 東方縱橫
- 唐柏橋
- 王尚一
- 江楓
- 黃清
- 李唐風
- 園丁
- 今濤拍暗
- 李青城
- 秦就石
- 中經研
- 秦天靖
- 江浩
- Eagle Vision
- 李子壬
- 馬新宇
- 馬來啟
- 紫君
- 秦山
- 陳破空
- 戴東尼
- 曹長青
- 邢仁濤
- 瑜正
- 簡易
- 肖川
- 伍凡
- 顧言
- 歸瑜
- 乙欣
- 陳泱潮
- 徐沛
- 「流量女王」票房翻車 楊冪新片無預警撤檔(圖)
- 中國官方監測低收入人口 凸顯消費降級與返貧(圖)
- 金正恩狂建高樓住宅卻曝致命傷 平壤令人難想像(圖)
- 抒懷言志的藝術珍品——硯銘(圖)
- 2名俄特務滲入烏克蘭國安局 澤連斯基險遭暗殺(圖)