Группа немецких ученых заявила, что люди не смогут сдерживать сверхразумный компьютер с ИИ

Специалисты по информатике и философии, которых возглавила группа немецких ученых из Института Макса Планка решили выяснить, сможет ли человек контролировать сверхразумный ИИ, чтобы убедиться, что он не станет угрозой для человека.

Ученые рассмотрели два пути контроля над сверхразумным ИИ, сообщает EurekAlert. Первый вариант – ограничение способностей ИИ с учетом ограждения от интернета и современных гаджетов, что сделало машину менее мощной и полезной для человека.

Второй вариант – разработка контролирующего механизма, который следил бы за сверхразумным ИИ и мог его остановить, если его действия начали бы представлять опасность для человека. Но при детальном рассмотрении выяснилось, что алгоритм бесполезен.

Как пояснил глава Центра человека и машин Института Ийад Рахван, если рассматривать вопрос с точки зрения базовых правил теоретической информатики, то алгоритм, который мог бы приказывать ИИ, в реальности перестанет работать. Если это случится, то ученые не будет знать, продолжает ли он анализировать угрозу или остановился, чтобы сдержать опасный ИИ. Это делает контролирующий механизм бесполезным.

Проблема контроля за ИИ с учетом этих расчетов оказалась нерешаемой: ни один механизм не определяет, опасен ли ИИ для мира. Кроме того, ученые отметили, что люди могут даже не заметить появления сверхразумного ИИ, так как вопрос о том, превосходит ли машина человека по интеллекту, находится в той же области, что и проблема контролирующего механизма.