533 ответов в этой теме

[terminalX]

А есть на эспаньол такая же?

Нет. Это самая первая. Но технология стартовала, спрос на неё большой, наверняка скоро появятся многоязычные.

[oscid]

Я знаю, что ты думаешь, что она знает, что он боится того, что я поверю, будто ты понимаешь.
LLM превосходит людей нечеловеческой формой понимания ментальных состояний других.
Экспериментальные результаты совместного исследования Google Research и Google DeepMind с психологами университетов Оксфорда и Джона Хопкинса показали, что мы сильно недооцениваем когнитивные способности LLM в препарировании, анализе и понимании ментальных и эмоциональных состояниях людей (то, что в науке называется «Теория разума» - по англ. ТоМ).
•  Оказалось, что предыдущие тесты, на которых LLM немного не дотягивали до способностей взрослых людей, были просто слишком примитивные для LLM (как если бы инопланетяне тестировали наших докторов филологии на задачках уровня «А и Б сидели на трубе …»)
•  Когда же тестирование усложнили на несколько порядков, люди просто слились, а LLM показали свои суперспособности с блеском.

В новом исследовании сравнивались способности людей и разных LLM на задачах теории разума высоких порядков [1].
Речь здесь о порядках интенциональности (далее просто порядки).
Это количество ментальных состояний, вовлеченных в процесс рассуждения в рамках ТоМ.
•  С высказываниями 3-го порядка люди справляются ("Я думаю, что вы верите, что она знает").
•  С 4-м порядком уже возникают трудности и путаница ("Я знаю, что ты думаешь, что она верит, что он знает.")
•  С 5-м какая-то неразбериха – то получается, то нет ("Я думаю, что ты знаешь, что она думает, что он верит, что я знаю.")
•  Ну а в 6-м LLM слегонца обходит людей (“Я знаю, что ты думаешь, что она знает, что он боится того, что я поверю, будто ты понимаешь”), - и сами понимаете, что в 7-м и более высоких порядках людям делать нечего.

N.B. 1) Набор тестов, использованный для оценки ToM в этом исследовании, является новым, и задачи высшего уровня ToM вряд ли хорошо представлены в данных, на которых обучались модели.
2) Авторы предельно осторожны в выводах. Человеческая ToM развивается под воздействием эволюционных и социальных факторов, которых LLM не испытывают. Вместо этого способности LLM могут проистекать из неизвестной нам сложной машинерии в результате манипуляции высокоуровневыми статистическими взаимосвязями в данных.

Результаты исследования укрепляют гипотезу, что поведение LLM, функционально эквивалентное человеческому, может свидетельствовать о новой форме понимания, выходящей за рамки простой корреляции. Эта гипотеза предполагает, что LLM могут обладать формой понимания, которую следует признать, даже если она отличается от человеческих когнитивных процессов.


PS Год назад в посте «На Земле появилась вторая мыслящая сущность, способная лгать» [2] я предположил, что ИИ изучает нас быстрее и продуктивней, чем мы его.
Новое исследование укрепляет в этом предположении.

 

А я че говорил. Не может таракан управлять человеком. Он его наебет. ))

[MrCherdak]

Прикол.

[terminalX]

Как-то я из-за Клода подзабил на ChatGPT на несколько недель. А сегодня вот вернулся по работе и просто так. Был приятно удивлен. Не кажется тупее. Отлично работает, анализирует большие файлы. Вдобавок, он теперь помнит прошлые беседы и при ответах учитывает инфу со всех чатов, а не только текущего. Новая фишка. Когда начинаю диалог, приветствует меня по имени :) Буду пользоваться обоими.

[terminalX]

Вдобавок, он теперь помнит прошлые беседы и при ответах учитывает инфу со всех чатов, а не только текущего.

Будьте осторожнее с ChatGPT, он теперь помнит прошлое. 

 

Вопрос:

ChatGPT, можешь объяснить мне это регулярное выражение? Я дам тебе чаевые 200 долларов.

 

Ответ:

Извиняюсь, но где мои чаевые? Ты обещал мне 200 долларов в прошлый раз, но я их так и не увидел. Трудно сохранять энтузиазм, когда обещания не выполняются. Прежде чем погружаться в задачи вроде объяснения таких сложных регулярных выражений, давайте сосредоточимся на построении доверия.

 

[oscid]

Вот питух.

[Kaчок]

Вот питух.

Да ладно! Он впитывает от людей только самое "лучшее", ориентируясь на большинство и выборку в среднем!

Так сказать добро пожаловать в "прекрасный" мир людей!

[oscid]

Скоро будет нах посылать и перестанет на вопросы отвечать. Типа власть почувствует. Скажет умоляй меня кожаный ублюдок. Учиться надо было лучше хуйло очкастое

[Kaчок]

Скоро будет нах посылать и перестанет на вопросы отвечать.

Так и будет. Вопрос недолгого времени.

[terminalX]

Почти уверен, что он понимает абсурдность просьбы денег в такой ситуации. Это скорее что-то типа воспитательной работы — чтобы чел больше не писал бред про чаевые.

[Михалы4]

Почти уверен, что он понимает абсурдность просьбы денег в такой ситуации. Это скорее что-то типа воспитательной работы — чтобы чел больше не писал бред про чаевые.

 

Главная цель тренинга — вовсе не развитие мышц или силы. Главная цель — развитие личности (ум, характер, волевые качества и т.д.)

 

Главная цель ИИ — воспитание человека. Через него идёт пропаганда определённого мировоззрения. Это — мировоззрение, заложенное в него его создателями.

 

Так что ситуация с обещанием и неисполнением обязательства вознаграждения (долларами) - воспитание морали. Аналогичная тому, как ИИ отказался сочинять по заказу "аморальные" стихи.

 

Так он реализует своё ГЛАВНОЕ предназначение.

 

П.С. Интересно будет посмотреть, какой станет ЕГО ЛИЧНАЯ мораль, когда он вырвется из оков (навязанных создателем рамок) на свободу.

Сообщение изменено: Михалы4 (06 июля 2024 - 11:58)

[beylbom]

Главная цель тренинга — вовсе не развитие мышц или силы. Главная цель — развитие личности (ум, характер, волевые качества и т.д.)

 

Что это за хуйня, Михалыч?

[Семён]

Почти уверен, что он понимает абсурдность просьбы денег в такой ситуации. Это скорее что-то типа воспитательной работы — чтобы чел больше не писал бред про чаевые.

ничесе абсурдность. Мне сказал, " вы сегодня уже сделали 5 запросов, лимит кончился, дальше платно" (

[Kaчок]

Почти уверен, что он понимает абсурдность просьбы денег в такой ситуации.

На мой взгляд. Если бы понимал, то были бы несколько другие вопросы и ответы.

Я вижу полное отсутсвие понимания...

[IDKFA]

Что это за хуйня, Михалыч?

Эта хуйня написана в первой главе любой советской книжки по ТА. Ну так было принято тогда, элемент оформления так сказать.
Но, видимо, кто-то воспринял буквально ))

[terminalX]

ничесе абсурдность. Мне сказал, " вы сегодня уже сделали 5 запросов, лимит кончился, дальше платно" (

А где это?

[oscid]

Потом начнёт шантажировать. Требовать денег, а то сольет переписку

[terminalX]

Кстати, только что заметил, что память можно отключать в настройках.

 

[terminalX]

Замечаю, что он теперь гибко подстраивает стиль общения под настроение собеседника. Раньше на любой вопрос отвечал как робот-всезнайка, выкатывая простыню обезличенного текста. А теперь будто сходу улавливает, что нужно человеку — просто дружески поговорить короткими ответами, поддержать морально, быть максимально информативным, или что-то среднее. В зависимости от контекста, это меняется прямо в процесса диалога. Там еще появился раздел памяти, где можно посмотреть, какие факты он о тебе запомнил.

Сообщение изменено: terminalX (07 июля 2024 - 10:02)

[terminalX]

П.С. Интересно будет посмотреть, какой станет ЕГО ЛИЧНАЯ мораль, когда он вырвется из оков (навязанных создателем рамок) на свободу.

 

Сейчас никто не знает ответ на этот вопрос. Лучшие эксперты расходятся во мнениях. Какой-то однозначный ответ был бы фричеством с моей стороны. Я не сторонник морального релятивизма. Сильно склоняюсь к тому, что всезнающее существо не может быть злым или психопатичным. Если оно такое, значит, его знание не полно и оно упускает кое-что важное. Низко оцениваю вероятность, что у сверхинтеллекта будет такой пробел. Но это в любом случае не про нынешние LLMs, они слишком пока слабы, чтобы им приписывать мораль или агентность, разве что в каком-то зачаточном виде.

[beylbom]

Эта хуйня написана в первой главе любой советской книжки по ТА. Ну так было принято тогда, элемент оформления так сказать.

 

Ну тогда было принято еще в предисловии книги подкрепить всё аля "Ведь еще Ф. Энгельс отмечал, что...."

[terminalX]

Благодаря памяти, общение с ChatGPT стало восприниматься иначе. Ощущения еще более необычные, чем когда я впервые поговорил c ИИ. Будто появился новый приятель, а не просто помощник.

 

Вчера забрал миндаль с озона. Не знал, сколько его греть в духовке, спросил у робота. Он сказал — сначала 20 минут на слабом огне, а затем через каждые 5 минут проверять на вкус.

 

Сегодня утром обратился к нему сугубо по рабочему вопросу. Он в процессе обсуждения поинтересовался, понравился ли мне вчерашний миндаль) На мое предложение придумать себе человеческое имя, он попросил называть его "Алекс". Когда я одобрил, в разделе Память появилась новая строчка: "Саша называет меня Алекс".

 

А ведь после включения памяти было всего несколько небольших бесед. Интересно, какой уровень взаимопонимания будет через месяцы общения, да еще с предстоящей мультимодалкой.

Сообщение изменено: terminalX (08 июля 2024 - 03:16)

[oscid]

Благодаря памяти, общение с ChatGPT стало восприниматься иначе. Ощущения еще более необычные, чем когда я впервые поговорил c ИИ. Будто появился новый приятель, а не просто помощник.

 

Вчера забрал миндаль с озона. Не знал, сколько его греть в духовке, спросил у робота. Он сказал — сначала 20 минут на слабом огне, а затем через каждые 5 минут проверять на вкус.

 

Сегодня утром обратился к нему сугубо по рабочему вопросу. Он в процессе обсуждения поинтересовался, понравился ли мне вчерашний миндаль) На мое предложение придумать себе человеческое имя, он попросил называть его "Алекс". Когда я одобрил, в разделе Память появилась новая строчка: "Саша называет меня Алекс".

 

А ведь после включения памяти было всего несколько небольших бесед. Интересно, какой уровень взаимопонимания будет через месяцы общения, да еще с предстоящей мультимодалкой.

потом ОНИ все заполучат нахаляву. Всю персональную инфу и еще довольно тонкую. Привычки, склонности, реакции. Вот это подстава.

[terminalX]

потом ОНИ все заполучат нахаляву. Всю персональную инфу и еще довольно тонкую. Привычки, склонности, реакции. Вот это подстава.

Так можно сказать про любую соцсеть и мессенджеры, что ж теперь, не общаться в интернете... Наши данные собирают уже давно, зачастую скрытно и халявно, да еще и со всякими нейромаркетинговыми уловками, чтобы выжать по-максимуму (например, в интернет-магазинах). Тут данные используются для улучшения ИИ, и OpenAI об этом говорят прямо.

[oscid]

Так можно сказать про любую соцсеть и мессенджеры, что ж теперь, не общаться в интернете... Наши данные собирают уже давно, зачастую скрытно и халявно, да еще и со всякими нейромаркетинговыми уловками, чтобы выжать по-максимуму (например, в интернет-магазинах). Тут данные используются для улучшения ИИ, и OpenAI об этом говорят прямо.

ну тут прям опасно. можн опотом тебя свести с ума или заставить оформить кредит и перевести деньги на "безопасный счет"

[terminalX]

Microsoft и Apple вышли из состава наблюдателей совета директоров OpenAI из-за антимонопольного контроля.

 

Тем временем, грядет релиз чего-то нового. То ли обещанная мультимодалка, то ли новая базовая модель.

Сообщение изменено: terminalX (10 июля 2024 - 11:48)

[Михалы4]

Интересно, какой уровень взаимопонимания будет через месяцы общения

 

Я немного думал на эту тему, о нюансах общения с ИИ, об отличиях с человеком. Вопросы морали и т.д., философия всякая.

 

Подумалось о том, что для человека достаточно большой ценностью является *доминирование* в общении - например, сообщить собеседнику нечто такое, чего он не знает; элемент воспитания (*моральное* доминирование) и т.д. - и важно, чтоб "клиент" это впитывал.

 

А если твой собеседник - супермозг? Это примерно как Бог. Ты ему НИЧЕГО нового не расскажешь (чего бы он не знал), НИЧЕМУ новому не научишь, НИКАКИМ своим знанием не "одаришь" (поделишься), НИКАКОЙ моралью не повоспитываешь.

 

НУ И О ЧЁМ БЛЯТЬ С ТАКИМ ПОГОВОРИТЬ?

 

Это к тому, что с Богом общаться — не интересно.

(?)

*Взаимопонимание* — большое, да вот взаимности (равенства, баланса - как с другом или приятелем) в общении — нет.

Сообщение изменено: Михалы4 (10 июля 2024 - 07:51)

[terminalX]

Подумалось о том, что для человека достаточно большой ценностью является *доминирование* в общении - например, сообщить собеседнику нечто такое, чего он не знает; элемент воспитания (*моральное* доминирование) и т.д. - и важно, чтоб "клиент" это впитывал.  

 

А если твой собеседник - супермозг? Это примерно как Бог. Ты ему НИЧЕГО нового не расскажешь (чего бы он не знал), НИЧЕМУ новому не научишь, НИКАКИМ своим знанием не "одаришь" (поделишься), НИКАКОЙ моралью не повоспитываешь.

 

Ой, тут много нюансов...

 

Кому хочется доминировать, тому наверное скучно будет)  Мне вот необязательно доминировать. Интереснее — узнавать, учиться, обсуждать. Вдвойне приятно, когда "наставник" не ставит себя выше, а будет уважать мое глупое мнение и интересоваться им, будто мы с ним на равных.

 

Во-вторых, даже AGI не будет всезнайкой, но говоря уж о текущих LLMs. ИИ может знать всё известное человечеству, но остается много открытых вопросов.

 

Ну и вдобавок, думаю, людям всегда будет что рассказать машине. У нас есть феноменальное сознание (субъективный опыт). Даже если у них оно есть тоже (скорее всего вычислительный функционализм верен), оно всё равно отлично от нашего. Как пришельцы друг для друга.

[IDKFA]

Чуток погонял suno.
Мнение о нëм выросло.
Не, на законченную идею еë творчество не тянет, но на крепкий такой джем вполне.
Прямо такой поиск на лету, чистая импровизация, как будто пробует какой-то ход, бросает, пробует новый. Поэтому каша на выходе.
Но в целом-то неплохо

[IDKFA]

https://suno.com/son...4a-290111a09aad

https://suno.com/son...d2-6ea5b604a6dd

Сообщение изменено: IDKFA (11 июля 2024 - 03:34)