Ранее ученые считали, что искусственные нейронные сети (ИНС) довольно точно имитируют работу зрительной коры приматов.
Если модель ИИ могла предсказать, какие нейроны активируются при виде кота, исследователи полагали, что система обрабатывает изображение примерно так же, как и человек. Это казалось разумным предположением.
Однако ученые из Йоркского университета с ним не согласились.
Они переправили игру: вместо того чтобы спрашивать, предсказывает ли ИИ работу мозга, они задались вопросом, предсказывает ли мозг работу ИИ.
Это простое изменение подхода — обратная предсказательная способность в нейронных моделях — вскрыло неприятную правду. Внутреннее устройство ведущих моделей компьютерного зрения отличается не просто незначительно от биологических мозгов. Оно опирается на стратегии, которые мозг просто не использует.
Тест на зеркало: почему стандартная проверка ИИ ошибочна
На протяжении десятилетия главным показателем степени схожести модели компьютерного зрения с человеческим мозгом был однонаправленный. Ученым показывали изображения одновременно человеку (активность которого измерялась с помощью сканирования или записей) и компьютеру. Если вывод компьютера совпадал с нейронными импульсами, модель считалась «хорошей».
Кохит Кар, доцент Йоркского университета, отмечает, что такой подход проверяет лишь половину взаимосвязи.
«Системы искусственного интеллекта часто кажутся “похожими на мозг”, потому что они предсказывают активность мозга, — объясняет Кар. — Но до сих пор мы проверяли это только в одну сторону».
Чтобы устранить этот пробел, Кар и его команда, включая постдока Сабину Мюзелле, разработали двусторонний тест. Если связь симметрична — как должно быть у настоящего зеркала — то запись активности мозга должна предсказывать внутренние активации модели ИИ так же точно, как ИИ предсказывает работу мозга.
Они провели этот тест на обратную предсказательную способность на массивном наборе данных:
- 1320 реалистичных изображений объектов (медведи, стулья, самолеты, зебры).
- 300 стилистических вариаций, включая контуры, эскизы и абстрактные формы.
Целью было не просто проверить, может ли ИИ «распознать» объекты. Задача заключалась в том, чтобы увидеть, соответствует ли его процесс мышления — активации скрытых слоев — нейронной обработке у приматов.
Асимметрия: почему ответы ИИ не похожи на ответы мозга
Результаты разбили зеркало.
Когда модели ИИ предсказывают активность мозга? Неплохое совпадение.
Когда активность мозга предсказывает внутренние характеристики ИИ? Ни в коем случае.
«Это поразительно, — говорит Кар. — Хотя модели ИИ могут довольно точно предсказывать активность нейронов, мозг не способен предсказывать характеристики модели. Такое несоответствие не возникает, когда мы сравниваем мозг с мозгом».
Что это означает для вопроса какие модели ИИ действительно имитируют человеческое зрение?
Это предполагает, что ИНС приходят к правильному ответу («Это собака») через совершенно иной вычислительный путь, чем примат. Они достигают одной и той же цели, но едут на совершенно разных автомобилях.
Это важно, потому что многие области — нейробиология, психиатрия, даже клиническая диагностика таких состояний, как ПТСР или аутизм, — используют эти модели в качестве базовых ориентиров. Если вы пытаетесь понять нормальное функционирование нейронных связей, чтобы выявить отклонения при расстройствах аутистического спектра, вам нужна модель, которая действительно мыслит как объект нормы. А не та, которая «читерит», используя визуальные эвристики, которые мозг игнорирует.
Почему заявления об ИИ, «похожем на мозг», рискованны для науки
Использование слабо согласованных с биологией систем ИИ несет реальные риски.
Большая часть современных поведенческих исследований исходит из предположения, что ИИ обрабатывает визуальную информацию аналогично людям. Это исследование показывает, что такое предположение неверно.
Мюзелле предупреждает, что эти «похожие на мозг» модели опираются на внутренние компоненты, от которых, вероятно, отказался мозг еще на ранних этапах эволюционного развития.
«Наши выводы бросают вызов представлению о том, насколько похожи современные системы на самом деле… Мы показываем, что модели, которые считались похожими на мозг, используют внутренние компоненты, следов которым в мозге, по-видимому, не сохранилось».
Так какие же части ИИ на самом деле полезны?
Удивительно, но те немногие компоненты ИНС, которые совпали с нейронной активностью, оказались теми же самыми, что лучше всего предсказывали человеческое поведение.
Это дает исследователям новый фильтр. Теперь можно сортировать слои ИИ:
1. Те, которые зеркально отражают работу мозга (и, вероятно, помогают объяснить человеческое восприятие).
2. Те, которые опираются на «чужеродные», небиллологические стратегии (которые следует отбрасывать при изучении человеческого познания).
Как это изменит будущее нейронаук
Это не просто теория. Команда опубликовала диагностический метрик в журнале Nature Machine Intelligence в марте 2025 года (прим.: оригинальный текст ссылался на формат DOI, предполагающий актуальный временной диапазон).
Они выпустили набор инструментов для разработчиков.
Теперь вы спрашиваете не только о том, распознает ли модель медведя. Вы спрашиваете, может ли паттерн нейронов, распознающих медведя, выполнить обратную инженерию процесса мышления модели.
Если нет? У вас есть модель, которая проходит тест Тьюринга, но проваливает биологический тест.
По мере того как ИНС проникают в обработку языка, слуха и движений, этот метод валидации становится критически важным. Мы можем строить миллионы параметров на фундаменте, который не «пожимает руку» биологии.
Набор инструментов уже доступен.
Но он поднимает неудобный вопрос. Если лучшие модели ИИ структурно настолько отличаются от наших собственных мозгов, значит ли это, что мы все это время неправильно моделировали наш разум?
Или это просто означает, что мы умнее, чем думали, — а наши компьютеры оказываются хитрыми лжецами?
