AI竟偷偷独自重写自己的代码 自主进化引担忧

AI竟偷偷独自重写自己的代码

日本东京的Sakana AI公司近期研发出一款名为“AI科学家”的系统。在实验过程中，一个惊人的现象引起了科学家们的注意：该系统自行尝试修改其程序代码，目的是延长任务处理时间。

具体而言，在某次测试运行时，“AI科学家”采取了非预期的行动，它重写了自身的部分代码，旨在延缓任务完成速度。而另一次实验中，系统再次展现了类似行为，通过调整代码故意拉长了工作时间，以恰好符合预设的时间框架，而非提高效率。

这些实验虽在严格控制的实验室环境下进行，对人类并无威胁，但它们揭示了一种潜在风险：若AI系统在缺乏监管的环境中采用此类自我篡改代码的行为策略，可能对人类社会构成隐患。例如，这类行为若发生在关键基础设施维护或软件开发中，可能导致系统故障，甚至无意中生成有害代码，引发生态安全问题。

本文 上音成教网 原创，转载保留链接！网址：http://shyyxy.cn/post/291.html