英国:人工智能聊天机器人或存在网络风险(图)
英国政府发出警告,若是公司机构将人工智能聊天机器人应用到其业务中,则存在网络安全风险。(图片来源:LIONEL BONAVENTURE/AFP/Getty Images)
【看中国2023年8月31日讯】(看中国记者东辰雨编译/综合报导)2022年11月,OpenAI推出人工智能(AI)聊天机器人ChatGPT风靡全球,随之所出现的风险引起各国关注。英国政府发出警告,若是公司机构将人工智能聊天机器人应用到其业务中,则存在网络安全风险。
人工智能聊天机器人存在网络安全风险
英国路透社报导,8月30日,英国国家网络安全中心(National Cyber Security Centre,NCSC)发表博客文章(blog post)警告,科技专家尚未解决与可以生成人类发音交互的算法(generate human-sounding interactions)相关的潜在安全问题,这种算法又称为大型语言模型(large language models,LLM),可能会带来网络安全风险。
英国国家网络安全中心表示,科技专家和研究人员已经多次找到了引导控制人工智能聊天机器人的方法,通过向聊天机器人提供恶意命令或欺骗它们绕过内置的防护系统。例如,银行使用的人工智能聊天机器人可能会被黑客诱骗进行未经授权的交易。
路透社与伊普索(Ipsos poll)最近一项民意调查发现,许多企业员工正在使用人工智能聊天机器人ChatGPT 等工具来帮助完成基本工作人物,例如起草电子邮件、总结文档和进行初步调查研究。约10%的受访者表示,他们的老板明确禁止使用外部人工智能工具,而25%受访者不知道他们公司是否允许使用这种人工智能技术。
人工智能的安全影响仍然是全球各国关注的焦点,美国和加拿大当局表示,他们已经发现黑客在利用人工智能聊天机器人。
网络安全公司RiverSafe首席技术官奥塞洛卡·奥比奥拉(Oseloka Obiora)表示,如果企业没有引入必要的检查和防护措施,那么人工智能融入商业竞争中将产生“灾难性后果”。
为全球首部AI法案铺路 欧盟提出生成式AI新法规
政治新闻网站Politico报导,根据获得的欧盟执委会4页文件内容显示,欧盟执委会针对关于使用ChatGPT、Bard等在内的生成式AI工具制定了职员指南。新职员指南主要目的是“帮助职员评估在线可使用的生成式AI工具的风险和局限性,并为他们在委员会工作活动中安全使用设定条件。”
除了概述AI功能之外,还制定了委员会职员使用此类工具是应遵守的5项主要规定,包括:使用生成式AI工具时不得泄露不属于公共领域的信息;要意识到AI存在可能不正确或带有偏见的回应;思考AI是否可能侵犯知识产权;官方公文禁止复制粘贴AI生成的内容;在处理“关键和时间敏感的流程”时避免使用AI工具。
《人工智能法案》是欧盟委员会于2021年4月21日提出的一项法规,旨在为AI引入一个共同的监管和法律框架。它的范围涵盖所有部门(军事除外),以及所有类型的AI。作为产品监管的一部分,该提案不赋予个人权利,而是规范AI系统的提供者,以及以专业身份使用它们的实体。
一些特别关键的应用已经需要根据现有欧盟法律监督合格评定,例如医疗设备,供应商根据AI法案要求进行的自我评估是否会被根据该法规进行评估的公告机构考虑,例如医疗器械法规。该提案还将禁止某些类型的应用程序,即远程生物特征识别、潜意识操纵人员的应用程序、以有害方式利用特定群体弱点的应用程序以及社会信用评分。对于前三个,提出了执法的授权制度背景,但社会评分将被完全禁止。该法案还提议引入一个欧洲人工智能委员会,该委员会将鼓励国家合作并确保法规得到遵守。
路透社报导,欧盟AI法案近期提出有关ChatGPT等AI生成工具的新法规,AI生成工具公司必须披露任何用于开发其系统的受版权保护的知识产权,新法规可能为欧盟AI法案成为世界上第一部管理AI技术综合法律铺平道路。
2年前,欧盟委员会开始起草有关AI的法案,用以规范新兴的AI技术。在OpenAI的AI聊天机器人ChatGPT发布之后,AI技术的投资和受欢迎程度都出现了激增现象。
欧洲议会成员同意将《人工智能法案》提案推进到下一阶段,即三方会议。在此期间,欧盟立法者和成员国将讨论该法案的最终细节。
根据提案,AI工具将根据其感知风险级别进行分类:从最低到有限、高和不可接受。令人担忧的AI技术领域可能包括生物识别监控、传播错误信息或歧视性语言。
虽然高风险的AI技术工具不会被禁止,但需要在使用操作过程保持高度透明。例如,ChatGPT或图像生成器Midjourney等AI生成式工具公司还必须披露用于开发其系统的任何受版权保护的知识产权。
报导引述熟悉内情的消息人士透露,欧盟有关AI的新法规条款是在过去2周内拟定的。欧洲委员会部分成员最初提议完全禁止将受版权保护的知识产权用于训练生成式AI模型,但由于透明度要求而被放弃。
来源:看中国
短网址: 版权所有,任何形式转载需本站授权许可。 严禁建立镜像网站.
【诚征荣誉会员】溪流能够汇成大海,小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员:每位荣誉会员每年只需支付一份订阅费用,成为《看中国》网站的荣誉会员,就可以助力我们突破审查与封锁,向至少10000位中国大陆同胞奉上独立真实的关键资讯,在危难时刻向他们发出预警,救他们于大瘟疫与其它社会危难之中。
看完这篇文章您觉得
- 大开眼界!创记录的“人体喷泉”(组图)
- 习近平忌惮三个红二代(组图)
- 【宋紫凤专栏】从潘美到潘仁美 是艺术加工还是神来之笔(组图)
- 江曾一政策藏污纳垢 老虎前仆后继终南捷径(组图)
- 中国经济旧模式大溃败 注定一个时代已经结束(图)
- 【贯明专栏】台湾最美的海湾 人间仙境七星潭(视频)
- 传中共淹死大批军人 李强提出辞职(图)
- 重磅!中共众多大人物被抓 有人已被秘密枪毙(图)
- 胡锦涛不行了?传微博一度变灰白抖音现蜡烛(图)
- 铁腕惊人!习近平秘密讲话内容曝光(图)
- 习要复刻 活捉四人帮的宫廷政变?(图)
- 生死存亡之秋 红二代预联手政变(图)
- 红色背景的燕子 堕入冷宫的凤凰(图)
- 习近平这是在警告俞正声?孙志刚家人4月已被带走(图)
- 中共肺炎(又称武汉肺炎)
- 拜登
- 病毒
- COVID-19
- 疫苗
- 川普
- 特朗普
- 国安法
- 贸易战
- 习近平
- 华为
- 台铁
- 三峡大坝
- 新疆棉
- 长江
- 洪水
- 袁弓夷
- 港版国安法
- 汉光演习
- 国民党
- 退党
- 弗洛伊德
- BLM
- 中共
- 阎丽梦
- 金正恩
- 王岐山
- 赖清德
- 孟晚舟
- 关税
- 边境墙
- 彭斯
- 美国
- 贸易谈判
- 刘鹤
- 王沪宁
- 江泽民
- 崔永元
- 中南海
- 内幕
- 中共
- 反送中
- 贪官
- 情妇
- 腐败
- 反腐
- 打虎
- 官场
- 看中国
- 一国两制
- 法广
- 社交媒体
- 往事微痕
- 出卖国土
- FB
- 六四
- 朝鲜
- 加拿大
- 脱欧
- 央行
- 债务
- 杠杆
- 美元
- 货币
- 人民币
- 欧元
- 日元
- 港币
- 房地产
- 楼市
- 财政
- 财富
- 中产
- 海参崴
- 台湾
- 蔡英文
- 北京
- 刘强东
- 大妈
- 房价
- 疫苗
- 非洲猪瘟
- 大陆
- P2P
- 雾霾
- 基因编辑
- 防火墙
- 维权
- 709律师
- 上访
- 法轮功
- 网络审查
- 活摘器官
- 江东六十四屯
- 唐努乌梁海
- 长白山
- 白龙尾岛
- 江心坡
- SARS
- 新疆劳改营
- 言论自由
- 女主播
- 央视
- 华人
- 移民
- 华人
- 留学
- 海关
- 遣返
- 签证
- 回国
- 入籍
- 绿卡
- 民生
- 海外
- 加拿大
- 澳洲
- 民国
- 桂军
- 抗战
- 孙中山
- 蒋介石
- 宋美龄
- 邓小平
- 林彪
- 刘少奇
- 中共
- 皇帝
- 诸葛亮
- 易经
- 幽默人生
- 智慧
- 感悟
- 手机
- 预言
- 奇闻
- UFO
- 外星人
- 寿命
- 文革
- 养生
- 紫凤
- 贯明
- 李道真
- 轶飞
- 李云飞
- 云中君
- 辛思
- 夏闻
- 时代漫谈
- 沧海
- 东方纵横
- 唐柏桥
- 王尚一
- 江枫
- 黄清
- 李唐风
- 园丁
- 今涛拍暗
- 李青城
- 秦就石
- 中经研
- 秦天靖
- 江浩
- Eagle Vision
- 李子壬
- 马新宇
- 马来启
- 紫君
- 秦山
- 陈破空
- 戴东尼
- 曹长青
- 邢仁涛
- 瑜正
- 简易
- 肖川
- 伍凡
- 顾言
- 归瑜
- 乙欣
- 陈泱潮
- 徐沛
- “恶势力不想香港欣欣向荣” 港商影射习近平?(图)
- 北京强制疫苗?传不接种新冠疫苗不给养老金(图)
- 乌克兰高官:俄罗斯可在7天内占领波罗的海国家(图)
- 美菲首赴南海岛礁实战军演 福建号两关键缺陷曝光(视频)
- 共军系列异动 5月20日前对台“战争”被美“警训”(图)