曾写出毁灭人类计划书，爆火的ChatGPT是一把“双刃剑”

发布时间：2025-07-07 09:00:23 来源：放长线钓大鱼网 作者：休闲

【文/观察者网 吕栋】

这两天，双刃剑美国公司OpenAI推出的曾写ChatGPT成为绝对的市场焦点。

凭借聊天、出毁咨询、灭人翻译甚至写研报等类人的类计智能化表现，ChatGPT注册用户很快破亿，划书大有引领新一轮AI浪潮之势，爆火把、双刃剑、曾写等科技巨头也纷纷重金布局相关赛道。出毁

在ChatGPT引爆AIGC（AI生成内容）概念后，灭人A股也开始有大量科技公司披露相关业务，类计试图借机蹭一波热点，划书拉抬一下股价。爆火把

不可否认，双刃剑以ChatGPT为代表的新型AI技术的确具有产业赋能的潜在价值。但随着AI技术进入新的发展阶段，带来的各种安全隐患也将更甚。

曾写出“毁灭人类计划书”

根据国内外媒体报道，ChatGPT最初的爆火源于它在一位工程师诱导下，写出了毁灭人类的计划书，步骤甚至详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等，甚至还给出了相应的Python代码。

这并不是耸人听闻。在ChatGPT推出几周后，全球已有多家网络安全公司发布一系列报告，证明该机器人可能被用于编写恶意软件。

截至目前，美国威胁情报公司Recorded Future在暗网中已发现1500多条关于使用ChatGPT开发恶意软件、创建概念验证代码的参考资料，其中大部分代码都公开可用。

Recorded Future认为，ChatGPT对于“脚本小子、黑客行动主义者、欺诈分子/垃圾邮件发送者、支付卡欺骗者等技术水平不高的网络犯罪分子”最有帮助，把恶意软件、钓鱼攻击推向了规模化时代。

目前，网络钓鱼即服务 （PhaaS） 和勒索软件即服务（RaaS）可以向攻击者提供收费工具包，使其可以轻松实施攻击。而现在ChatGPT则使网络犯罪活动正经历另一种演变：利用ChatGPT面向公众免费开放的服务，更多危险正在萌芽，这加剧了对于未来安全风险的忧虑。

在此背景下，ChatGPT背后的OpenAI日前公开发声警告称，现在需要监管机构进行介入，以防止ChatGPT等生成式AI系统对社会产生潜在负面影响。

“我们没有预料到把‘孩子’送到这个世界上会带来这么大的反响。事实上，我们对此感到有些许不安。”OpenAI首席技术官Mira Murati在采访中坦言，人工智能可能被滥用，也可能被目的不纯之人利用。

作为OpenAI的创始人之一，埃隆·马斯克也曾警告过先进的AI对人类构成的威胁，去年12月，他称ChatGPT是“可怕的好东西”，并补充称“我们离危险的强大人工智能不远了。”

就在近日，国内数字安全公司三六零也发布了《全球人工智能安全治理报告》。

报告指出，作为一种数字技术，人工智能“双刃剑”特征明显，不仅自身存在数字安全威胁和隐患，随着人工智能工程化、场景化、平台化落地不断加快，人工智能安全需求已经超越单纯技术范畴。

据三六零透露，目前360AI安全实验室所开发的AI框架安全监测平台，已累计发现Tensorflow、Caffe、PyTorch等主流机器学习框架的漏洞200多个，其中提交给谷歌Tensorflow的漏洞数98个，包括24个高危、严重漏洞，在全球各大厂商中排名第一。

市场调研机构Research And Markets预测，2030年网络安全中人工智能产值将突破千亿美元，2020年至2030年将达到25.7%的年复合增长率。随着ChatGPT等AI技术产品的普及，AI安全市场将进一步爆发。

之后，三六零版ChatGPT也要来了？

虽然犀利地指出了人工智能发展带来的潜在安全隐患，但在ChatGPT概念持续爆火之下，拥有搜索引擎业务的三六零，也十分热衷于推出类似ChatGPT的产品。

2月7日，三六零在投资者互动平台透露，该公司计划尽快推出类ChatGPT技术的demo（试用）版产品。这让该公司成为国内继百度之后，又一个披露将推出类ChatGPT技术的公司。

此消息一出，ChatGPT概念再次被推向高点。三六零2月7日午后直线拉升涨停，2月8日该公司再次一字封板涨停，目前市值630亿元。

三六零在投资者互动平台上表示，AIGC中的类ChatGPT技术对搜索行业是具备颠覆性的革新能力的，也只有搜索引擎拥有足够大的数据源对类ChatGPT技术进行训练。这也是为什么目前ChatGPT的参与者是Google、Bing、百度这些搜索引擎的公司。

据三六零透露，目前360搜索是中国搜索引擎的Top 2，市场份额为35%。而根据第三方机构Statcounter GlobalStats的统计，2022年7月，在中国国内搜索引擎市场中，百度份额为70.48%，排名第一；搜狗搜索份额为12.25%；必应份额为10.06%；Google份额为3.00%；360搜索份额为1.94%；神马份额为1.54%；其他搜索引擎的份额合计为0.73%。

三六零表示，该公司在数据资源端有丰富的多模态大数据积累和相关语料、尤其是中文语料，相较于国外同行落后的是预训练大模型和有效的多模态数据清洗与融合技术，“公司有充足的资金储备可用于购买大规模算力，在继续深入自行研发的同时，不排除寻找强有力的合作伙伴，以开放的心态搭建多方共享平台、补足短板，快速缩小差距”。

但需要指出的是，即便单独讨论搜索引擎这一个应用场景，想把类似ChatGPT的技术落地，依然有较大难度。不少行业人士认为，目前ChatGPT还是一个对AI技术范式的探索，它并不能代替搜索。ChatGPT当下一个很大的弊端是无法实时获取互联网信息。由于它只是一个端到端的生成模型，能够自我构造虚假答案，这些都是它替代搜索的障碍。而如果以目前每一条几美分的成本来看，它会让商业搜索引擎公司入不敷出。

在此背景下，三六零也坦言，该公司人工智能研究院从2020年开始一直在包括类ChatGPT技术在内的AIGC技术上有持续性的投入，但截至目前仅作为内部业务自用的生产力工具使用，且投资规模及技术水平与当前的ChatGPT 3相比还有较大差距，各项技术指标只能做到略强于ChatGPT 2。由于训练数据源及应用方向的原因，在中文环境下的实际效果强于ChatGPT 2。

与大多数技术一样，ChatGPT本身确实是一把“双刃剑”。虽然越来越多的研究人员认为ChatGPT可能成为黑客的盟友，但这一可生成不良内容的工具，也可以用来帮助安全人员提高效率，提高恶意信息识别、抵御网络攻击的能力，这主要包括钓鱼检测、漏洞发现和安全事件响应。

“需要特别提到的是，AIGC技术除了在搜索引擎的应用之外，还可以辅助数字安全能力的提升。一旦AIGC大模型在数字安全领域预训练完成，就会如同ChatGPT 3给搜索引擎技术带来巨大的提升一样，给数字安全技术带来巨大的变革。”三六零表示。

上市后首次亏损，安全业务占比上升

春节过后，三六零披露了2022年的业绩预亏公告，这也是该公司自2012年上市以来首次出现亏损。

根据公告，三六零预计2022年实现营收94.9亿元，同比下滑约13%；实现归母净利润为-24.8亿元，同比由盈转亏；预计实现扣非后归母净利润-20.3亿元，上年盈利6.1亿元。

三六零提到，2022年该公司整体毛利率水平与上年同期基本持平，但由于互联网行业整体趋势下滑及该公司向数字安全行业持续加大投入，导致总营收下降的同时费用略有增加，且投资损益及公允价值变动损益大幅亏损，使得该公司营业利润与上年同期相比出现亏损。

三六零的主要业务可以分为网络安全业务、互联网商业化业务、互联网增值业务、智能硬件业务等，旗下拥有360安全卫士、360手机卫士、360安全浏览器等安全产品及应用。

从具体业务数据来看，三六零2022年业绩预告“AB”面并存，反映出该公司转型的进展与挑战。

一方面，2022年三六零安全及其他业务实现营收约17.5亿元，同比增长约27%，在该公司营收中的占比进一步提高，由上一年度的约12.7%提升至约18.4%。在改善收入结构的同时，也被外界视为三六零转型数字安全业务已经初见成效。

与此同时，三六零的费用增速下降，呼应了该公司的降本增效战略。公告披露，三六零2022年费用支出约57亿元，较上年同期上升约2.5亿元。而2021年和2020年同期分别为54.5亿元和44.3亿元，2022年的费用增速由2021年的23%大幅下降至4.6%。

但另一方面，占三六零2022年营收61%的互联网商业化及增值服务，自2018年起连年下滑。2019年-2021年，三六零这一业务合计营收分别为106.83亿元、86.46亿元、74.10亿元。

2022年，三六零互联网商业化及增值业务实现营业收入约57.9亿元，同比减少约22%。该公司表示，这主要因互联网广告市场流量分布多元化，竞争程度加剧，PC端投放占互联网广告市场的比例继续下滑。

此外，巨额投资亏损也是三六零业绩下滑的重要原因。

2022年，三六零确认投资损益及公允价值变动损益共计约-15.0亿元，同比下降约17.6亿元，主要因部分合联营企业亏损较大、部分投资项目公允价值变动损失，以及处置参股公司 Limited股权损失所致。

在出售部分与主业相关度不高的投资项目的同时，三六零也保留了部分投资项目。例如，该公司目前持有哪吒汽车10.72%股权，在2022年的亏损中应该也按比例计提了哪吒汽车的亏损。

相关文章