Воскресенье, 28.02.2021, 22:22
Привет, Гость | RSS | Главная | Регистрация | Вход | Контакты| Личные сообщения ()

Аномалии и феномены [2851]Астрология,предсказания [1801]Вокруг света [934]Гипотезы и версии [2624]Загадки истории [3568]
Здоровье,человек [1987]Интересные факты [3525]Космос,астрономия [1920]Люди и судьбы [909]Наука и технологии [910]
Новости и жизнь общества [2778]Паранормальное [1391]Практическая магия [868]Прогнозы ученых, исследования [837]Самопознание,психология [1860]
Спорт и йога [359]Стихия,климат,экология [2542]Тайны религий [401]Теории заговора,тайны планеты [653]Уфология и НЛО [979]
Фильмы и видео [3795]Фотоподборки и смешные кадры [1348]Фэн-шуй [192]Цитаты и мысли [586]Частное мнение [522]

НАША ПЛАНЕТАВТОРАЯ ПЛАНЕТАИЗ ЖИЗНИ.РУФОРУМГЛАВНАЯ ПРАВИЛА
Меню сайта



Статистика

Онлайн всего: 8
Пользователей: 8
Сейчас комментируют: 0

Яндекс цитирования


Календарь

Главная » 2021 » Январь » 15 » Расчеты показывают, что управлять сверхразумным ИИ будет невозможно » ДОБАВИТЬ МАТЕРИАЛ
06:10
Расчеты показывают, что управлять сверхразумным ИИ будет невозможно


Идея об искусственном интеллекте, свергающем человечество, обсуждалась на протяжении многих десятилетий, и ученые только что вынесли свой вердикт о том, сможем ли мы контролировать высокоуровневый компьютерный супер-интеллект.

Ответ? Почти наверняка нет.

Загвоздка в том, что для управления сверхразумом, выходящим далеко за пределы человеческого понимания, потребуется симуляция этого сверхразума, которую мы можем проанализировать. Но если мы не в состоянии это понять, невозможно создать такую ​​симуляцию.

Такие правила, как «не причиняйте вреда людям», невозможно установить, если мы не понимаем, какие сценарии будет предлагать ИИ, — предполагают авторы новой статьи. Когда компьютерная система работает на уровне, превышающем возможности наших программистов, мы больше не можем устанавливать ограничения.

«Супер-интеллект представляет собой принципиально другую проблему, чем те, которые обычно изучаются под лозунгом «этики роботов», — пишут исследователи.

«Это потому, что суперинтеллект многогранен и, следовательно, потенциально способен мобилизовать разнообразные ресурсы для достижения целей, которые потенциально непонятны для людей, не говоря уже о том, чтобы их можно было контролировать».

Часть рассуждений команды исходит из проблемы остановки, выдвинутой Аланом Тьюрингом в 1936 году. Проблема заключается в знании того, придет ли компьютерная программа к выводу и ответу (поэтому она останавливается) или просто зацикливается на бесконечности, пытаясь найти ответ.

Как доказал Тьюринг, хотя мы можем знать, что для некоторых конкретных программ, логически невозможно найти способ, который позволил бы нам узнать это для каждой потенциальной программы, которая когда-либо могла быть написана. Это возвращает нас к ИИ, который в сверхразумном состоянии мог реально удерживать в своей памяти сразу все возможные компьютерные программы.

Любая программа, написанная, например, для того, чтобы остановить ИИ, причиняющей вред людям и разрушающий мир, может прийти к выводу (и остановиться) или нет — для нас математически невозможно быть абсолютно уверенным в любом случае, а это означает, что ее невозможно контролировать.

«По сути, это делает алгоритм контроля непригодным для использования», — говорит ученый Ияд Рахван из Института развития им. Макса Планка в Германии.

«Поэтому возникает вопрос, может ли это в какой-то момент стать неконтролируемым и опасным для человечества».


Загрузка...






Мнение администрации сайта и Ваше мнение, может частично или полностью не совпадать с мнениями авторов публикаций. Администрация не несет ответственности за достоверность и содержание материалов.
Категория: Гипотезы и версии | Источник: https://rwspace.ru| Просмотров: 244 | Добавил: Pantera| | Теги: ИИ, Невозможно, расчеты, сверхразумным, будет, управлять, показывают, что | Рейтинг: 5.0/2

По этой теме смотрите:

В КОММЕНТАРИЯХ НЕДОПУСТИМА КРИТИКА САЙТА,АДМИНИСТРАТОРОВ,МОДЕРАТОРОВ и ПОЛЬЗОВАТЕЛЕЙ,КОТОРЫЕ ГОТОВЯТ ДЛЯ ВАС НОВОСТИ! УВАЖАЙТЕ ЧУЖОЙ ТРУД!
Всего комментариев: 0

Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]
Загрузка...
Форма входа
Логин:
Пароль:
Поиск

Загрузка...

Беседка
Онлайн всего: 8
Пользователей: 8
Сейчас комментируют: 0

Последние комментарии












На ФОРУМЕ
IgChad

Pantera

Pantera

Pantera

Pantera

Pantera

Pantera

Pantera

Pantera

Pantera


Загрузка...