Сверхразумные компьютеры, обладающие искусственным интеллектом, могут быть неподконтрольны людям. То есть человек не сможет полноценно управлять такими машинами. Об этом говорят сотрудники Центра людей и машин Института развития человека Макса Планка.
Этот вывод прокомментировал директор группы компаний DZ systems Дмитрий Завалишин. В частности, он сказал, что искусственный интеллект должен быть не просто умнее человека, но и обладать некоторой потребностью что-то делать, чего сейчас не наблюдается. Только в этом случае он может стать проблемой для человечества. Системы с ИИ вызывают опасения, особенно те, которые управляют другими машинами. Многие специалисты относятся с осторожность к сверхразумному и неконтролируемому ИИ.
Сверхразумная машина, управляющая миром, звучит как научная фантастика.
Но уже есть роботы, выполняющие важные задачи. Однако возникает вопрос: может ли этот процесс в какой-то момент выйти из-под контроля и насколько это опасно для человечества?
Эксперты предположили, что создание «алгоритма сдерживания», который призван блокировать сверхразумный ИИ, может решить эту проблему. Но в таком случае алгоритм сдерживания должен быть «умнее» сверхразумного ИИ, что едва ли возможно.
Изучая этот вопрос, ученые использовали моделирование и теоретические расчеты. Исследовали подчеркивают: даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром, то риски все же будут, пишет gazeta.ru.
Любой из алгоритмов такого сдерживания уязвим и при определенных обстоятельствах способен отключить сам себя. В этой связи ученые заключают, что управлять сверхразумным ИИ человек не сможет, так как в любой момент ситуация может выйти из-под контроля.