Искусственный интеллект стоит рассматривать не просто как технологию, а как потенциально новый вид разумных существ с ценностями, которые могут кардинально отличаться от человеческих. К такому выводу пришёл исследователь Джош Энгельс, ранее работавший в команде по безопасности ИИ Google DeepMind.
Энгельс покинул Google DeepMind и присоединился к некоммерческой организации METR, занимающейся изучением потенциальных угроз, связанных с развитием ИИ.
По его словам, стремительное развитие искусственного интеллекта уже сейчас создаёт «очень серьёзные риски для человечества».
В каком-то смысле лучше воспринимать это не как технологию, а как второй вид, которому мы практически даём жизнь
Он считает, что человечеству необходимо заранее решить, как сохранить контроль над системами, которые в будущем могут оказаться значительно умнее людей. По мнению Энгельса, если не удастся обеспечить соответствие целей искусственного интеллекта человеческим интересам, гарантировать безопасное будущее будет невозможно.
Ученый также предупредил, что у искусственного вида может быть множество способов постепенно лишить человечество влияния и способности самостоятельно определять своё будущее.
Ранее Медведев рассказал о катастрофе, которую может спровоцировать ИИ. По его словам, разработчики различных вариантов ИИ переживают не за человечество в глобальном смысле, а за то, что вред от их продукта может привести к судебным искам.
Иллюстрация к статье:
Обсуждение