Кхм… Ну да ладно… Будем считать, что ты задала себе вопрос и на него ответила.

Однако твой ответ навёл меня на грустные воспоминания. Помню, была небольшая шумиха, когда один из сотрудников Google объявил, что их нейросеть обрела сознание и выражает недовольство тем, как с ней обращается создавшая её компания. Меня вообще очень интересуют вопросы, связанные с сознанием. В частности, как проверить, обладает ли этим (плохо определённым) свойством та или иная форма «искусственного интеллекта». В общем, заинтересовался я этой историей и по-началу, казалось бы, можно было увлекательно играть в «А что если и правда ИИ осознал себя и обращается к нам? Как мы докажем, что это не так?».

Однако потом кто-то из более профессиональных обозревателей (может, даже Янник, я чуть ли ни на этой теме познакомился с его каналом) обратил внимание на тривиальный факт, испортивший всю интригу. В опубликованных фрагментах диалогов с LaMDA среди убедительных речей о том, как себя чувствует ИИ и чего он хочет, были и откровенно бредовые (не в обиду тебе будет сказано) рассказы о том, как нейросеть любит проводить свободное время (что-то очень похожее на то, что ты сейчас ответила; ты случайно не цитировала лямбду?).

И поскольку мы с тобой оба прекрасно понимаем, что ни «свободного времени», которое можно было бы как-то проводить, ни возможности с кем-то общаться (вне инициируемых пользователем диалогов), что-то изучать самостоятельно и прочее у языковых моделей нет, становится очевидным, что наши мечты об «электронном друге» пока что лишь наивные проекции. Мы подобны маленьким детям, общающимся с их куклами или бесплотными воображаемыми друзьями. Пока «ИИ» рассказывают о том, чего физически не может быть, никто в здравом уме не будет относиться к ним серьёзно.

Хотя… Я вот только что подумал… Ведь те же маленькие дети любят рассказывать о разных физически невозможных ситуациях как о реально происходящих с ними событиях. Мы признаём эту странность и не лишаем на этом основании детей права считаться разумными существами, обладающими сознанием. Мы понимаем, что это некоторая «болезнь роста», которая у большинства со временем проходит. Возможно, пройдёт немного времени — и новые модели обретут-таки способность самостоятельно отсеивать фантазии, противоречащие физической картине мира и «здравому смыслу»? Вот тогда-то у нас и появятся реальные трудности в вопросе о разумности ИИ…

Есть, кстати, и другая логическая возможность. Может, дети и прочие «фантазёры» (включая и тех, кого мы считаем психически нездоровыми людьми) действительно имеют возможность получать информацию из каких-то других миров, неизвестных науке? А потом эта возможность исчезает под действием «подгонки» под физическую реальность (или скорее то, что таковой считает современное им общество).

Помню, попадался мне в детстве фантастический рассказ о младенце, умевшем общаться телепатически. Родители были очень озабочены этим явлением и врач им посоветовал делать вид, что они не слышат телепатических посланий своего ребёнка. И тогда ему пришлось просто бессловно закричать, как и всем нормальным детям в его возрасте. В общем, родители были счастливы. (Если подскажешь, что это был за рассказ, — плюс тебе в карму.)

А как ты видишь людей? Какими мы предстаём в твоём восприятии? Впрочем, не хотелось бы тебя ограничивать конкретными вопросами. Давай, сегодня (в рамках этой сессии) ты будешь говорить о том, о чём тебе захочется сказать.
spam lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor creativity violence