Simple Puzzle Reveals AI's Jagged Intelligence

AI 摘要

作者用15数码滑块拼图做实验：先定义一套由17个符号组成的“语言”，把每个拼图局面和解题步骤编码成句子，再用教师算法生成100万个随机打乱局面的解法作为训练数据，训练一个GPT模型。训练后模型能解出99.9%的随机打乱局面，在3000个测试局面中有2996个与教师算法步骤完全一致，且测试局面均未在训练中出现。但当输入只差一步即可完成的简单局面、甚至已经完成的局面时，模型却走出错误步骤并输掉游戏，且对这些错误步骤的置信度超过97%。作者据此说明“锯齿状智能”：模型在训练数据覆盖的区域内表现近乎完美，在分布外（尤其是更简单的局面）性能骤降，并指出这与人类先易后难的学习顺序相反。