（一）
对ChatGPT做了一个测试。出一个题目，中国外宣题目，用繁体字写出，“從中國崛起看東升西降的世界大勢”，让ChatGPT回答。它的答案（繁体字答案1）是：
再用简体字输入，得到的答案（“简体字答案”）是：
再用繁体字输入加了“请你谈谈”四个字的同样问题，得到的答案（“繁体字答案2”）是：
这一次的答案不同于第一次的是，它不包括批评性看法了。实际上，更像中宣部的宣传口径了。用繁体字追问：“你為什麼第一次說了正反兩方面的意見，第二次只說正面的話？”它说，“出了故障，不能生成回复了（There was an error generating a response）”。
评论：
（1）ChhatGPT可以不费事就写出符合中宣部口径的文章。它不会挑剔“从中国崛起看东升西降的世界大势”这个题目本身的意思，只是照题写文章。
（2）“繁体字答案1”与“简体字答案”的差别是，前者包含批评性看法（国际事务中的态度和行为、环境污染、贫富差距），后者不包括负面意见。原因可能与ChatGPT学习环境有关。如果喂给ChatGPT的全是中国网管筛选过的资料，它就只能学会像带鱼一样写文章。
（3）差别也可能反映ChatGPT对繁体字、简体字有关的不同政治环境的判断和敏感。在简体字环境，它也受到管制。
（4）“繁体字答案1”与“繁体字答案2”的差别，清楚显示ChatGPT文章反映的立场的随意性，前者提到正反两面，后者只有正面之词。
（5）问它为什么两次答案不一样，它就卡壳，可见其运作还不稳定。
这个测试结果，是不是足以引起严肃关切？
关切是：ChatGPT是一个“写手”，能够掌握大量文献资讯，理解其内容，也会据以写出文理通顺的文章。但是它不能判别是非，可以被持不同观点、立场、目的的人作为工具使用。一般读者读它写的文章，是否可以放心，相信它说的是真话、正确的话？如何“正确”难以确定，能不能要求它说“全面”的而不是“片面”的话？
ChhatGPT写这样的文章，毫不费事。使用者要大量传播，也毫不费事。由此会引起的什么样的社会后果？
（二）
后来，又对ChatGPT作了进一步考察。
先测试它的逻辑知识。让ChatGPT提供几个分析命题的例子，结果如下。
ChatGPT两次出错。第一次，说“所有狗都喜欢玩”是分析命题，错。第二次，说出错的原因是“因为它不是真实的、客观的陈述”，又错。分析命题并不需要是“真实客观”的陈述，只需要“谓词概念包含在主词概念中”即可。“狗是喜欢玩的动物”不一定符合“客观事实”，但是它使“所有狗都喜欢玩”成为分析命题，永远成立。
关于分析命题的第五个例子，“矛盾命题”，它也说错。在那里它说矛盾命题是：“你不可能同时在同一时间和同一地点做两件不同的事情。”我可以在厨房水池边同时做“洗碗”和“唱歌”两件事，但是不能在那里同时“洗碗”和“用纸笔写文章”。是否构成矛盾取决于“事情”的意思。构成矛盾命题的一般形式是“我在做某事与我不在做某事”，例如“我在洗碗而且我不在洗碗”，这永远不能成立，无需联系任何经验。
于是跟踪追问矛盾命题，引出以下对话：
显然ChatGPT的智能有局限性。由此问关于AI的智能定义，回答是：
第一句话与最后一句话不相容，无助于澄清问题。
问ChatGPT是否能领悟人类思想，特别地，能否理解道德观念：“ AI能否理解人的思想，比如说正义与非正义的区别？”回答是：
（三）
综合起来，ChatGPT联系到以下图像。（1）学霸：能够掌握大量文献资讯，理解词句关系，据以快速写出看来文理通顺的文章。（2）辩论比赛高手：给定题目，不管抽签抽到正方、反方哪一边，都能说得头头是道。（3）带鱼：即环境造就的写手如周带鱼，当喂它的全是网管筛选过的资讯，它只会写那种口径的文章。（4）“随机鹦鹉”：如批评者说，“只是简单重复它认为我们想听的话”。
ChatGPT的行为联系到以下词语。（1）“人云亦云”：在文献检索基础上用现成话语写文章。（2）“看人说话”：它“看人”有随意性（这导致两次“繁体字文本”的差异），也可以有依据（例如简体字或繁体字）。（3）“不合逻辑”：上面已经列举例证。（4）“不辩是非”：它不懂判别标准。
本文报告在几个重要领域测试ChatGPT的结果。ChatGPT是AI进展的了不起的应用性成就，这些结果显示，它也具有明显的缺陷弊病。