ChatGPT оказался похож на мозг

Эти выводы были опубликованы в журнале Nature Machine Intelligence.

Исследователи обнаружили, что с увеличением эффективности языковых моделей они не только успешнее справляются с задачами, но и их внутренние представления становятся ближе к нейронным реакциям, связанным с языком в мозге. Это отражается в том, как различные уровни LLM отражают иерархию обработки языка в мозге, начиная с акустических и фонетических элементов и заканчивая абстрактными компонентами.

Для анализа исследования использовали данные 12 языковых моделей с открытым исходным кодом. Одновременно с этим были зафиксированы нейронные реакции у пациентов с имплантированными электродами, которые слушали речь в рамках нейрохирургического лечения. Полученные данные из моделей были сопоставлены с реакциями мозга для определения степени их сходства.

Результаты показали, что с увеличением производительности LLM увеличивается соответствие их нейронной активности, связанной с обработкой языка. Наиболее продвинутые модели, включая ChatGPT, демонстрируют более точное соответствие последовательным слоям модели с уровнями обработки языка в мозге. Это свидетельствует о том, что внутренние представления моделей становятся более сложными и точными.

Еще одним важным наблюдением является то, что первые уровни LLM играют особенно важную роль в повышении их эффективности. Эти слои лучше всего предсказывают нейронные реакции мозга, что подчеркивает их ключевое значение в успешной обработке текста.

Источник и фото - lenta.ru