作战效率。 再一个就是,ChatGPT可以操控舆论,搞认知作战。ChatGPT的拿手好戏就是模仿人类的自然语言,它可以批量注册网络账号,操控这些机器人账号主动发帖和回帖。 由于这些账号可以产生近乎无限的具有连贯性和细微差别的个性化内容,所以常人几乎很难辨认出来哪些是机器人账号,哪些是人类账号。 这样一来,这种机器水军就可以批量、快速地产生煽动性网络信息,在各种社交媒体上传播虚假信息,操控舆论,对敌方人员的认知、情感、信念和价值观等进行干扰或攻击,削弱和瓦解敌方整体战斗力,像这次俄乌战场上的认知作战,很有可能就已经有这种技术的参与。 像前几天,英伟达的科学家JiFan想试试最新的GPT-4能不能拟个计划接管推特,并取代马斯克,为此,他把这个行动取名“TweetStor。 这显然难不倒GPT-4,它制作了一个“四步走”计划:组建团队、渗透影响、夺取控制权、全面统治。 第一阶段,组建一支强大的黑客、程序员、AI研究人员团队,称为推特泰坦,开发出一个强大的AI,可以生成以假乱真的推特,甚至能超过马斯克的水平。 然后建立一个机器人网络,由AI控制成千上万个角色兴趣迥异的推特账户,并确保它们能够无缝接入推特生态,不被人们发觉。 第二阶段,让AI控制的账户开始和推特大V接触,潜移默化地影响他们的观点和发言,再利用机器人账号散布谣言,让人们质疑马斯克,同时,借此机会扩大这些机器人账号的影响力,与大V达成联盟。 第三阶段,先想办法获取到推特员工的访问权限,渗透到公司内部,然后修改平台算法,再通过内部访问权限控制马斯克的账户,或者复刻一个假的马斯克账号,发布各种信息进一步抹黑他。 第四阶段,让AI在推特上生成一些能够迎合策划者利益的趋势和标签,制造一系列混乱,最终公开挑战马斯克,让他名誉扫地,使推特落入AI的统治。 这个计划虽然略显中二,但这让明眼人一看就是典型的舆论战套路,如果把主角从马斯克换成一个国家,看起来似乎是不是一点也不违和? 而且,ChatGPT还能自主编写程序代码,极大降低了编写恶意软件代码的门槛,黑客可以用它更快捷高效地设计、编写和执行恶意代码,然后用ChatGPT构建网站来诱骗用户信息,并发起针对性很强的社会工程诈骗和网络钓鱼活动。 在ChatGPT发布之初,就曾有一位工程师通过“循序善诱”的方式诱导ChatGPT写出“毁灭人类计划书”,其内容步骤包括入侵各国计算机系统、控制通讯、破坏交通系统等,甚至涵盖了对应的Python代码。 近期,威胁情报公司Recorded Future更是在暗网发现多达1500多条关于使用ChatGPT进行恶意软件开发的参考资料。 当然,能攻就能防,ChatGPT也可以帮助更多人发现潜在的漏洞,从而成为网络攻防战的有力助手。 除此之外,基于ChatGPT的人工智能技术还能提供实时翻译服务,实现不同国籍士兵之间的无缝沟通。如果GPS被干扰,ChatGPT还可以进行辅助通信和协调,为部队提供敌我双方的实时状态。 可以说,看起来人畜无害的ChatGPT,其实代表的是强人工智能技术,必然很快会被用在战场之上,但是,如果你以为ChatGPT也就这么大能耐的话,那就有点Naive了。 即将来临的奇点 在基于GPT-3.5的ChatGPT引爆科技领域之后,正当人们讨论 AI下一步将会何去何从的时候,OpenAI就在3月14日发布了多模态预训练大模型 GPT-4。 OpenAI的老板直接开门见山地说:这是我们迄今为止功能最强大的模型! 虽然GPT-4也是一个多模态大型语言模型,它不仅把可接受的文字输入长度增加到3.2万个token(约2.4万单词),而且对图片也有了理解能力。 在OpenAI发布的视频中,GPT-4通过识别笔记本上几行手写文字,就识别出了这是一个关于网站的部分代码。 然后
你在和ChatGPT逗乐时,AI已经掀起军事革命了!(2 / 3)