信息技术行业动态点评：AI发展如火如荼，安全不容忽视

[Table_Title] 信息技术行业动态点评 AI发展如火如荼，安全不容忽视 2024 年 06 月 25 日 [Table_Summary] 【事项】  近日，OpenAI 前首席科学家 Ilya Sutskever 宣布创立一家名为“安全超级智能”（Safe SuperIntelligence, SSI）的公司。该公司的目标和产品极其明确、单一，即追求安全的超级智能。公司将安全性和能力视为通过革命性工程和科学突破来解决的技术难题，同时确保安全性始终保持领先地位。 【评论】  AI 发展如火如荼，AI 安全不可忽视。去年 11 月，OpenAI 内部产生分歧，奥尔特曼和 OpenAI 总裁 Greg Brockman 倾向于加速商业化，以获得更多资金来支持 AI 模型的算力需求。而伊利亚等人则希望 AI 更安全。双方矛盾激化，最终结果是奥尔特曼和 Greg Brockman 在短暂离职后重归 OpenAI，原董事会中的多位董事离开，伊利亚则在今年 5月宣布离任。我们认为，本质的分歧在于 AI 安全的“路线之争”，可见目前在 AI 前沿的大模型公司中已有诸多关于 AI 安全的讨论，AI 安全问题正日趋紧要，需要引起重视。  AI 系统设计面临诸多挑战，安全技术需不停迭代。整体来看，为了实现 AGI 目标，当前 AI 系统在设计上主要面临以下挑战，包括： 软硬件的安全：在 AI 模型层面，攻击者同样可能在模型中植入后门并实施高级攻击；且由于 AI 模型的不可解释性，在模型中植入的恶意后门难以被检测。 数据完整性：在数据层面，攻击者能够在训练阶段掺入恶意数据，影响 AI 模型推理能力；攻击者同样可以在判断阶段对要判断的样本加入少量噪音，刻意改变判断结果。 模型保密性：在模型参数层面，服务提供者往往只希望提供模型查询服务，而不希望暴露自己训练的模型；通过多次查询，攻击者能够构建出一个相似的模型，进而获得模型的相关信息。 模型鲁棒性：训练模型时的样本往往覆盖性不足，使得模型鲁棒性不强；模型面对恶意样本时，无法给出正确的判断结果。 数据隐私：在用户提供训练数据的场景下，攻击者能够通过反复查询训练好的模型获得用户的隐私信息。 [Table_Rank] 强于大市（维持） [Table_Author] 东方财富证券研究所 证券分析师：方科 证书编号：S1160522040001 电话：021-23586361 [Table_PicQuote] 相对指数表现 [Table_Report] 相关研究 《华为开发者大会召开，关注华为产业链》 2024.06.20 《多地车路云项目落地进行中》 2024.06.20 《陆家嘴论坛召开，聚焦科技创新与资本市场高质量发展》 2024.06.19 《《上海低空经济发展白皮书 2024》发布，产业发展态势良好》 2024.06.18 《数据要素政策密集出台催化产业落地》 2024.06.17 -37.36%-28.78%-20.20%-11.62%-3.04%5.54%6/258/2510/2512/252/254/25信息技术 沪深300 挖掘价值 投资成长 行业研究 / 信息技术 / 证券研究报告 2017 敬请阅读本报告正文后各项声明 2 [Table_yemei] 信息技术行业动态点评 图表 1：AGI 水平和能力的五个级别 级别 AI 水平和能力层次 状态 Level 0 认知低于人类；替代部分人类智能 善用/误用/恶用 Level 1 认知超人 人类躺平；理性信任 Level 2 具身超人 超出控制能力 Level 3 感知认识结合产生意识 机器崛起 Level 4 产生自我意识 人类成为次等物种 Level 5 脱离人类知识和大脑架构 AGI 探索宇宙 资料来源：钛媒体公众号，东方财富证券研究所 我们认为，人工智能系统不安全的开发、部署或使用，可能给人类带来灾难性甚至生存性风险。随着数字智能接近甚至超越人类智能，由误用和失控所带来的风险将大幅增加。在未来快速发展的人工智能技术及其广泛的社会影响下，安全问题值得更严肃更深入的探讨。建议关注AI安全板块相关公司。 建议关注：启明星辰，奇安信，绿盟科技，永信至诚等。 【风险提示】 产业发展不及预期； 行业竞争加剧。 2017 敬请阅读本报告正文后各项声明 3 [Table_yemei] 信息技术行业动态点评 东方财富证券股份有限公司（以下简称“本公司”）具有中国证监会核准的证券投资咨询业务资格 分析师申明： 作者具有中国证券业协会授予的证券投资咨询执业资格或相当的专业胜任能力，保证报告所采用的数据均来自合规渠道，分析逻辑基于作者的职业理解，本报告清晰准确地反映了作者的研究观点，力求独立、客观和公正，结论不受任何第三方的授意或影响，特此声明。 投资建议的评级标准： 报告中投资建议所涉及的评级分为股票评级和行业评级（另有说明的除外）。评级标准为报告发布日后3到12个月内的相对市场表现，也即：以报告发布日后的3到12个月内的公司股价（或行业指数）相对同期相关证券市场代表性指数的涨跌幅作为基准。其中：A股市场以沪深300指数为基准；新三板市场以三板成指（针对协议转让标的）或三板做市指数（针对做市转让标的）为基准；香港市场以恒生指数为基准；美国市场以标普500指数为基准。 股票评级 买入：相对同期相关证券市场代表性指数涨幅15%以上； 增持：相对同期相关证券市场代表性指数涨幅介于5%～15%之间； 中性：相对同期相关证券市场代表性指数涨幅介于-5%～5%之间； 减持：相对同期相关证券市场代表性指数涨幅介于-15%～-5%之间； 卖出：相对同期相关证券市场代表性指数跌幅15%以上。 行业评级 强于大市：相对同期相关证券市场代表性指数涨幅10%以上； 中性：相对同期相关证券市场代表性指数涨幅介于-10%～10%之间； 弱于大市：相对同期相关证券市场代表性指数跌幅10%以上。 免责声明： 本研究报告由东方财富证券股份有限公司制作及在中华人民共和国（香港和澳门特别行政区、台湾省除外）发布。 本研究报告仅供本公司的客户使用。本公司不会因接收人收到本报告而视其为本公司的当然客户。 本研究报告是基于本公司认为可靠的且目前已公开的信息撰写，本公司力求但不保证该信息的准确性和完整性，客户也不应该认为该信息是准确和完整的。同时，