ТехнологииИсточник6 нояб.

Управлять сверхумным искусственным интеллектом будет невозможно

Идея об искусственном интеллекте, свергающем человечество, обсуждалась на протяжении многих десятилетий, и в январе 2021 года ученые вынесли свой вердикт о том, сможем ли мы контролировать высокоуровневый компьютерный суперинтеллект. Ответ? Почти, наверное, нет.

nk_hauz/y74KijFng.jpeg

Проблема в том, что для управления сверхразумом, выходящим далеко за пределы человеческого понимания, потребуется симуляция этого сверхразума, которую мы можем проанализировать. Но если мы не в состоянии понять это, невозможно создать такую ​​симуляцию.

Такие правила, как «не наносить вред людям», не могут быть установлены, если мы не понимаем, какие сценарии будет придумывать искусственный интеллект (ИИ), считают авторы статьи 2021 года. Как только компьютерная система будет работать на уровне, превышающем возможности наших программистов, мы больше не сможем устанавливать ограничения.

«Надрозум является принципиально иной проблемой, чем обычно изучаемые под вывеской «этики роботов»», – пишут исследователи. «Это связано с тем, что сверхум многогранен и, следовательно, потенциально способен мобилизовать разнообразные ресурсы для достижения целей, которые потенциально непостижимы для человека, не говоря уже о том, чтобы их можно было контролировать».

Часть рассуждений команды исходит из проблемы остановки, выдвинутой Аланом Тюрингом в 1936 году. Проблема состоит в том, чтобы понять, придет ли компьютерная программа к выводу и ответу (и остановится) или просто будет вечно зацикливаться, пытаясь найти ответ.

Как доказал Тюринг с помощью умной математики, хотя мы можем знать это для некоторых конкретных программ, логически невозможно найти способ, который позволит нам знать это для каждой потенциальной программы, которая никогда не может быть написана. Это возвращает нас к ИИ, которое в надинтеллектуальном состоянии могло бы хранить в своей памяти все возможные компьютерные программы одновременно.

Любая программа, написанная, например, для того, чтобы остановить ИИ, что наносит вред людям и разрушает мир, может сделать вывод (и остановиться) или нет – математически невозможно быть абсолютно уверенным в любом случае, что означает, что она не может быть сдерживаемым. «По сути, это делает алгоритм сдерживания непригодным для использования», – сказал в январе компьютерный ученый Ияд Рахван из Института развития человека имени Макса Планка в Германии.

Альтернативой обучению ИИ этики и запрету на уничтожение мира, в чем ни один алгоритм не может быть абсолютно уверен, говорят исследователи, есть ограничение возможностей сверхразума. К примеру, он может быть отрезан от части Интернета или определенных сетей.

Авторы недавнего исследования отвергают и эту идею, считая, что это ограничит область применения искусственного интеллекта – мол, если мы не собираемся использовать его для решения проблем, выходящих за пределы человеческих возможностей, то зачем вообще его создавать?

Если мы собираемся продвигать искусственный интеллект, мы можем даже не узнать, когда появится сверхинтеллект, неподвластный нашему контролю, настолько он непостижим. Это значит, что нам нужно начать задавать серьезные вопросы о том, в каком направлении мы двигаемся.

«Надразумная машина, управляющая миром, звучит как научная фантастика», – говорит компьютерный ученый Мануэль Кебриан из Института развития человека имени Макса Планка. Но уже существуют машины, самостоятельно выполняющие некоторые важные задачи, при этом программисты не до конца понимают, как они этому научились.

Поэтому и возникает вопрос, может ли он в какой-то момент стать неконтролируемым и опасным для человечества…

💬 Последние комментарии
Луна-2
Понимаешь Роджер, я не то чтобы боялась прививки -я уколов не боюсь .Если надо уколюсь -Дело в другом в последствиях после прививки - Вот сделала короновак себе- укол немного болезненный Спросила у девчонок , которые кололись, они говорят -что да ,тоже ощущали Врачиха говорит, что так и должно быть. .А вот мама - она не ощущает .Вот такие дела.Насчет фонарика - пока нормально -свет есть - что будет потом -посмотрим ..Может купим ... Где-то есть свечи .
Весёлый Роджер
Это гениально подмечено!!! Вот к примеру, наш щиропархатый пропа_Хандон Шмуля_Елен, ну тот шо тут сховался у жиночий труселях до колен, вот он тоже любит на других орать типа алкаш, а сам, нищеброд завидущий, сильно до буряковки с Червоной Шапкой выпиваш! Или кричит, шо мол вин нЫ пыдарас, а самому на заправке дальнобои порвали шаровары та подбили глаз. Ось воно як.
Весёлый Роджер
Ну с почином тебя! Если ничего не пишешь, значит прошло гладко... без градусов. Ну вот, а ты боялась, даже ... не помялась! :-)) Я про куртку! :-)) Зря ты фонариком ещё не обзавелась, когда веер вас накроет ... помяни моё слово, всё с прилавков, подобное, как волной смоет. Это психология, работает во всех странах. Ну там ещё про жареного петуха, ну который клеваться любит, помнишь...
ЭТО ОДНОЗНАЧНО !!!
А КТО ГРОМЧЕ ВСЕХ ОРЁТ ЧТО РОССИЯ НАПАДЁТ? ТОЛЬКО ТОТ КТО САМ СОБИРАЕТСЯ НАПАДАТЬ !!!
Весёлый Роджер
Дивлюсь тоби понравилось Шмуля Сруля, про тоби писня, про щиропархатых долбоЭбов, ждучих покращення: "Шизофрения - дулче мелодие,.." мабуть неё сейчас спиваешь та Сало Русское шматом большим нарезаешь? А ведь сука ты склеротная, когда-то брехал що мол ...Сало ны ыим! - Вот же ты пиСдабол сраный, МРАЗЬ холуйская! И так во всём ты, МУДАК тупой и неучь завистливая - от плашек до выплавки металла! Да мне по фую за кого ты там меня считаешь, да хоть за китайца, у которого большие ... Нихау - да ни фуяу!
Луна -2
Кт о кого -Зеленский -Ахметку, либо Ахметов -комика.Тотализатор открыт - делайте ставки ,господа!
гость
что и требовалось доказать - "если слышен денег шелест значит лох идет на нерест".