Искусственный интеллект уже управляет человечеством

Искусственный интеллект уже управляет человечеством
Новости Науки и техники

Сверхразумные компьютеры, обладающие искусственным интеллектом, могут быть неподконтрольны людям. То есть человек не сможет полноценно управлять такими машинами. Об этом говорят сотрудники Центра людей и машин Института развития человека Макса Планка. 

Этот вывод  прокомментировал директор группы компаний DZ systems Дмитрий Завалишин. В частности, он сказал, что  искусственный интеллект должен  быть не просто умнее человека, но и обладать некоторой потребностью что-то делать, чего сейчас не наблюдается. Только в этом случае он может стать проблемой для человечества. Системы с ИИ вызывают опасения, особенно те, которые  управляют другими машинами. Многие специалисты относятся с осторожность к сверхразумному и неконтролируемому ИИ. 

Сверхразумная машина, управляющая миром, звучит как научная фантастика. 

Но уже есть роботы, выполняющие  важные задачи. Однако возникает вопрос: может ли этот процесс в какой-то момент выйти из-под контроля и насколько это опасно для человечества? 

Эксперты предположили, что создание «алгоритма сдерживания», который призван блокировать сверхразумный ИИ, может решить эту проблему. Но в таком случае алгоритм сдерживания должен быть «умнее» сверхразумного ИИ, что едва ли возможно. 

Изучая этот вопрос, ученые использовали моделирование и теоретические расчеты. Исследовали подчеркивают: даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром, то риски все же будут, пишет gazeta.ru.

Любой из алгоритмов такого сдерживания  уязвим и при определенных обстоятельствах способен отключить сам себя. В этой связи ученые заключают, что управлять сверхразумным ИИ человек не сможет, так как в любой момент ситуация  может выйти из-под контроля.

Добавьте «RK NEWS» в источники

Не забудьте поделиться новостью!

Есть что сказать? Тогда вам сюда

ОБСУДИТЬ

Комментарии для сайта Cackle