Британский ученый Стюарт Рассел заявил, что появление искусственного интеллекта (ИИ), способного решать любые интеллектуальные задачи, грозит человечеству катастрофой.
Как сказал Рассел в интервью Times, бесконтрольные разработки в области ИИ привели к тому, что разработчики «добились прогресса, которого сами не ожидали». По его словам, человечество ошиблось в самом начале, не подумав, для чего будет нужен этот интеллект, и вполне вероятно, что сверхразумные машины начнут сопротивляться попыткам управлять ими.
На вопрос, «как сохранить власть над сущностями, которые сильнее вас», Рассел считает правильным один ответ: если вы этого не знаете, то прекратите исследования. «Все очень просто», — говорит ученый.
Он подчеркнул: «Если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса о нашем будущем существовании».
По расчётам Рассела, появление универсального ИИ — системы, способной выполнить любую задачу, которая под силу человеку, — может произойти в течение 10 лет. И, например, решая проблемы, связанные с климатом, такие программы могут прийти к выводу, что лучшим решением будет избавление от людей, опасается ученый.
Также он сказал: «Если вы учите ИИ подражать человеческому поведению, то, по сути, вы учите его ставить человеческие цели и преследовать их». При этом отметил, что «человеческие цели включают в себя самые разные вещи» и «появление действительно эффективных систем, которые преследовали бы такие цели», станет катастрофой.
Ранее американский бизнесмен Илон Маск предупредил, что ИИ неизбежно начнет контролировать себя, обладая потенциалом уничтожить человечество.
Читайте также: Грозит катастрофой: профессор предостерег от неограниченного развития искусственного интеллекта