ИИ-модели давно умеют точно предсказывать, как мозг реагирует на язык. Но что стоит за этими предсказаниями, оставалось «чёрным ящиком». Microsoft Research совместно с университетами представила метод Generative Causal Testing (GCT): он позволяет ИИ не просто предсказывать, но и давать краткие вербальные объяснения, а затем самостоятельно разрабатывать эксперименты для их проверки.
Метод GCT решает ключевую проблему объяснимости в нейронауке. ИИ-модели с высокой точностью предсказывают активность мозга, но не могут объяснить, что именно её вызывает. GCT переводит сложные внутренние представления таких моделей в короткие, понятные вербальные объяснения, например, «подготовка еды» или «названия мест».
Процесс GCT состоит из двух шагов:
- Объяснение. ИИ-модель анализирует, какие короткие фразы сильнее всего активируют конкретную область мозга, и суммирует их в одно объяснение, например, «подготовка еды» или «названия мест».
- Проверка. Затем ИИ пишет новые истории, специально созданные для активации этой области. Реакция мозга на них измеряется в МРТ-сканере. Если объяснение верно, целевая область реагирует.
В ходе экспериментов GCT подтвердил известные науке закономерности. Метод также смог различить соседние области, отвечающие за обработку местоположений, которые ранее считались взаимозаменяемыми. Более того, GCT выявил крошечные «микрорегионы» в префронтальной коре мозга, настроенные на специфические концепции, такие как диалог, время или измерения.
GCT меняет подход к изучению мозга, превращая ИИ из «чёрного ящика» для предсказаний в инструмент для создания и проверки научных гипотез. Это открывает путь к более глубокому пониманию того, как мозг обрабатывает язык, а не только к фиксации его реакций. Однако, пока метод сфокусирован на языковых стимулах, и его применимость к другим видам мозговой активности ещё предстоит изучить.