Питер Технологии Без дураков

Ученые сделали вывод, что люди не смогут сдерживать сверхразумный компьютер

12 января 2021

По мнению специалистов, в мире уже существуют сверхразумные суперкомпьютеры. При этом они в автономном режиме выполняют поставленные им задачи.

Исследователи выяснили, что люди не смогут контролировать сверхразумный ИИ с помощью ограничивающих алгоритмов, которые запрещали бы компьютерам причинять вред человеку. Специалисты пришли к выводу, что в существующей парадигме вычислений создание сдерживающего алгоритма для ИИ не представляется возможным.

Глава группы цифровой мобилизации в Центре людей и машин Института развития человека Макса Планка Мануэль Себриан также опасается того, что не все создатели таких высокотехнологичных машин понимают процесс их самообучения.

«Если развитие таких систем продолжится, то в какой-то момент они могут начать представлять реальную опасность для людей», — заключил Себриан.

Комментариев пока нет