Дворянский объяснил, как ИИ сохраняет контроль и предотвратит риск
Эксперт в области кибербезопасности Александр Дворянский утверждает, что на сегодняшний день искусственный интеллект полностью контролируется человеком, и его базовые принципы основаны на идее не причинения вреда человеку. Этими сведениями он поделился в интервью НСН.
Дворянский дал комментарий по поводу сообщений, касающихся разработки американскими компаниями механизмов экстренной остановки нейросетей, способных блокировать опасные действия технологий без вмешательства человека.
Конечно, присутствует теоретический риск утраты контроля, но, опять же, для ИИ актуален первый "закон роботов", согласно которому робот не может причинить вред человеку. Такова основная идея. Это "стоп-слово" внедряется ещё на этапе создания, — разъяснил Дворянский.
По словам Дворянского, хотя ИИ способен к самообучению и выполнению стандартных задач без контроля, это действует лишь в рамках, установленных человеком, и его независимость находится под контролем, который он охарактеризовал как "поводок". Эксперт подчеркнул, что подобные системы аварийной остановки внедрены и в России, а идею "стоп-крана" считает обоснованной и актуальной.
Ранее психиатр Руслан Исаев предупредил, что частое обращение к ИИ может нанести вред, лишая людей потребности во взаимодействии с живыми людьми. По его мнению, это особенно касается людей, склонных к тревожности, депрессии или социальной изоляции.
get newsletter