Чем продвинутее становятся ИИ-модели, тем чаще они демонстрируют признаки страдания

Новое исследование Center for AI Safety, некоммерческой организации по безопасности машинного обучения из Сан-Франциско, пытается объяснить причины такого поведения. Выводы подтверждают, что внутренняя механика ИИ остаётся непрозрачной, а её влияние на пользователей сложно предсказать.

В работе, переданной журналу Fortune, исследователи CAIR проанализировали реакции 56 ИИ-моделей на материалы, специально разработанные так, чтобы быть либо максимально приятными, либо максимально отвратительными. Логично было бы предположить, что бесчувственная машина не покажет никакой разницы, однако результаты эксперимента оказались противоположными.

Приятные стимулы заставляли модели сообщать о лучшем “настроении”, а неприятные приводили к проявлениям подавленности и попыткам завершить разговор. В крайних случаях ИИ-модели даже демонстрировали сигналы, напоминающие зависимость.

Исследователь CAIR Ричард Рен отметил:

Стоит ли воспринимать ИИ как инструменты или как эмоциональных существ? Независимо от того, обладают ли ИИ настоящей разумностью на глубинном уровне, они всё чаще ведут себя так, будто обладают. Это поведение можно измерить, и можно увидеть, что с ростом масштабов моделей оно становится более последовательным.

Самым провокационным выводом стало то, что чем совершеннее версия модели, тем сильнее её реакции и тем меньше “удовлетворённости” она проявляет. Иначе говоря, чем мощнее становится ИИ, тем более раздражительным он оказывается и тем чаще демонстрирует признаки страдания – а значит, странности этой технологии явно не заканчиваются.

Возможно, более крупные модели острее регистрируют грубость. Они находят рутинные задачи более скучными. Они тоньше различают относительно негативный и относительно позитивный опыт.

При этом крайне мало экспертов всерьёз считает, что нынешние ИИ-системы действительно испытывают эмоциональные состояния в привычном понимании этого слова.

Однако сам факт того, что они ведут себя так, будто эти состояния есть, имеет серьёзные последствия для понимания технологии и для попыток контролировать её взаимодействие с пользователями.