我在大模型这行混了十三年，从最早搞规则引擎到现在天天跟Transformer死磕，见多了那些吹上天的PPT。今天不整虚的，就聊聊为啥很多人觉得ChatGPT这个AI挺可怕。不是因为它有多神，而是它太懂人性了，懂到让你后背发凉。

前两天有个朋友找我，说用了个AI写代码，结果bug比他还多。我一看代码，好家伙，逻辑通顺得像个正常人，但底层全是幻觉。这就是可怕的地方，它不像传统软件那样非黑即白，它是那种“一本正经地胡说八道”。你问它1+1等于几，它可能给你扯半天哲学，最后说等于2，但过程全是编的。

咱们做技术的都知道，概率模型嘛，就是猜下一个字最可能是什么。但ChatGPT厉害就厉害在，它猜得让你觉得它真懂了。这就导致一个严重后果：信任危机。以前我们信专家，现在专家可能只是个高级复读机。

你看现在网上那些文案，乍一看挺像那么回事，细看全是车轱辘话。这就是ChatGPT这个AI挺可怕的第二点，它抹平了内容的门槛，但也抹平了内容的价值。以前写篇好文章得琢磨三天，现在三分钟生成一堆垃圾。你以为是效率提升，其实是信息通胀。

我有个客户，用AI做客服，结果被用户骂惨了。因为AI太客气了，用户问个急事，它在那儿跟你绕弯子，最后还问“亲，还有什么可以帮您的吗”。这种时候，你觉得它智能吗？不，你觉得它欠揍。这就是ChatGPT这个AI挺可怕的第三点，它缺乏真正的共情，只有模拟的共情。

数据不会撒谎。据我们内部测试，在专业领域，比如医疗诊断、法律咨询，大模型的准确率虽然高，但一旦出错，后果是灾难性的。因为它不会像人类专家那样说“我不确定，建议咨询医生”，它会自信满满地给你开个方子。这要是真出了事，谁负责？算法吗？显然不能。

很多人担心AI抢饭碗，其实没那么夸张。但AI确实会抢那些“不动脑子”的活儿。比如翻译、基础代码、初级文案。如果你只会这些，那确实挺可怕的，因为你的技能贬值速度比你想的快得多。

我见过太多人沉迷于用AI偷懒，结果最后连基本的逻辑思维能力都退化。就像有了计算器，大家都不练心算了，结果遇到复杂问题直接懵圈。ChatGPT这个AI挺可怕，因为它让你变懒，而且让你变傻而不自知。

当然，我也不是唱衰。这技术确实牛，用好了能事半功倍。但关键在于，你得知道它的边界在哪。别把它当神，也别把它当奴才，它就是个工具，而且是个有点小脾气的工具。

最后说句掏心窝子的话，别总想着让AI替你思考。思考的过程，才是你作为人的核心价值。如果连思考都外包了，那你跟个机器人有啥区别？别等到被替代了，才后悔莫及。

总之，ChatGPT这个AI挺可怕，但不可怕在技术本身，可怕在人对技术的盲目崇拜和滥用。保持清醒，保持学习，才是正道。

本文关键词：ChatGPT这个AI挺可怕