Наставник (63867)

Нужен ли человеку цифровой разум в виде ИИ?





Плюсы, опасности, минусы..
Мы платим до 300 руб за каждую тысячу уникальных поисковых переходов на Ваш вопрос или ответ Подробнее
ЛУЧШИЙ ОТВЕТ ИЗ 3
Хранитель Истины (289527)
Pазмышляя, смогут ли люди понять разум, радикально отличающийся от нашего, старший исследователь DeepMind проф. Мюррей Патрик Шанахан описал пространство возможных разумов в двух измерениях: способность агентов к сознанию и их сходство с людьми.
✔ Способность к сознанию агента соответствует богатству опыта, на который он способен. Но т.к. наука пока не умеет измерять этот показатель, Шанахан оценивает его по уровню когнитивных способностей, тесно связанному в земной биологии с сознанием:
если у кирпича 0, а у человека 10, то у пчелы 2, у кота 5, а у осьминога 5,5
✔ Сходство агента с людьми оценивается по тому, насколько можно описать его поведение, используя язык, применимый для людей,—описывая его потребности и желания, эмоции и убеждения, способности и навыки:
если у кирпича 0, а у человека 10, то у пчелы 3, у осьминога 5, а у кота 7
В таком пространстве возможных разумов:
— кирпич, пчела, осьминог, кот и человек расположатся так



— а кирпич, программа AlphaGo, робот BigDog и умный пылесос Roomba так



Теоретически возможно создание искусственного разума человеческого типа (AGI).
Возможные варианты AGI по его способности к сознанию могут быть в диапазоне (см. приложенный рисунок):
от не имеющих сознания Зомби—AGI: типа сверхумного пылесоса Roomba, ставшего способным выполнять функции любой прислуги: домработницы, гувернантки, повара, дворецкого …
до имеющих сознание на уровне людей или даже на более высоком уровне, которым люди наделяют воображаемые сверхсущности (духов, ангелов, пришельцев …)
Возможные варианты AGI по степени человекоподобия могут быть в диапазоне:
от экзотических сущностей, не имеющих с людьми ничего общего (типа Океана из «Соляриса»)
до вполне человекоподобных биороботов (типа красавчика Тома из «Я создан для тебя»).
А еще в таком пространстве разумов возможны сущности с и без сознания, но столь экзотические, что невообразимы даже фантастам.
Теперь о двух новых работах
1) [«Языковые модели (в основном) знают, что они знают» коллектива авторов из компании Anthropic
2) [«Дебаты о понимании в больших языковых моделях ИИ» Меланьи Митчел и Дэвида Кракауера
Рассмотрение этих работ с позиций вышеописанного пространства возможных разумов привело меня к двум довольно ошарашивающим выводам.
Bывод 1
Большие модели хоть и не обладают пока сознанием в человеческом смысле, но и бессознательными они уже не являются.
Из работы 1) следует, что большие языковые модели могут «заранее предсказывать, смогут ли они правильно ответить на вопрос». И это можно интерпретировать, как наличие самоконтроля.
Но согласно мэйнстримной теории машинного сознания, самоконтроль вычислений, приводящий к субъективному чувству уверенности или ошибки—это один из двух типов сознательных вычислений мозга.
Bывод 2
Уже созданы ИИ, обладающие новой формой понимания, которая обеспечивает экстраординарные, сверхчеловеческие способности к прогнозированию.
Из работы 2) следует, что AlphaZero и AlphaFold от DeepMind, продемонстрировавшие на практике чуждую людям форму интуиции в шахматах и предсказании структуры белка,—это, по сути, ИИ с новым способом понимания.
Этот способ понимания лучше приспособлен к проблемам, требующим больших данных и сверхмощных вычислений (тогда как понимание людей ориентировано на проблемы с малым объемом данных и сильным причинно-следственным механизмом).
Нужна новая наука об интеллекте с более широкими рамками концепций понимания и сознания, пригодными и для людей, и для машин.



Эти выводы заставляют вспомнить замечание главреда New Scientist Сумита Пол-Чоудхури о пространстве возможных разумов Шанахана:
«Однажды мы можем обнаружить, что живем бок о бок с инопланетянами и ангелами».
https://dzen.ru/a/Y2FZo1apymiIJSl7
ЕЩЕ ОТВЕТЫ
Наставник (87883)
Сам думай. А не чужими картинками и мыслями.
Сам лично думай.

И скажи ответ.
Год тебе времени хватит? Чтоб научится самому лично думать.

Потом напишешь ответ.

/я сам лично, думаю что это лишнее, но не запрещено/
Сейчас многое можно говорить об ИИ и то и другое, но одно ясно насколько он хороший или плохой ИИ покажешь только время, ясно только одно что в капиталистическом мире ИИ способен нанести только вред всему человечеству, иное дело в Социалистическом правовом строе ИИ будет служить верой и правдой человечеству❗❗❗❗❗