534 ответов в этой теме

[terminalX]

Любопытно, когда ИИ смогут эволюционировать в самоподдерживающуюся систему без участия нашего вида. Даю еще 200-300 лет на это.

 

Теоретический каркас для этого уже есть. Нужны два реальных компонента — марковское одеяло и возможность обучаться в реальном времени или хотя бы с небольшой задержкой. Марковское одеяло — это набор сенсорных датчиков для получения выборки сигналов от среды, а также набор активных состояний (например, конечностей), которые позволяют влиять на среду и затем фиксировать ее ответные реакции через датчики. Эти два типа состояний обеспечивают то, что в биологии называется циклом восприятия-действия. Этого достаточно, чтобы организм мог снижать удивление (расхождение между прогнозами и данными) через снижения ее верхней границы — свободной энергии. Это также позволяет снижать неопределенность, т.е. обновлять априоности модели и улучшать ее предсказательную силу. Таким образом система будет гомеостатом, воспринимающим и адаптирующимся в реальном времени. Проблема в том, что на практике это сделать трудно, потому что марковское одеяло подразумевает наличие реального тела. Сейчас роботы очень неуклюжи, а нынешние успешные архитектуры обновляют веса только во время тренировки, дорогой и медленной. Недавно появился стартап Verses AI, пытаются пойти другим путем, ищут инвесторов, начали сотрудничать с Volvo.

Сообщение изменено: terminalX (24 октября 2024 - 12:19)

[oscid]

 

 

Теоретический каркас для этого уже есть. Нужны два реальных компонента — марковское одеяло и возможность обучаться в реальном времени или хотя бы с небольшой задержкой. Марковское одеяло — это набор сенсорных датчиков для получения выборки сигналов от среды, а также набор активных состояний (например, конечностей), которые позволяют влиять на среду и затем фиксировать ее ответные реакции через датчики. Эти два типа состояний обеспечивают то, что в биологии называется циклом восприятия-действия. Этого достаточно, чтобы организм мог снижать удивление (расхождение между прогнозами и данными) через снижения ее верхней границы — свободной энергии. Это также позволяет снижать неопределенность, т.е. обновлять априоности модели и улучшать ее предсказательную силу. Таким образом система будет гомеостатом, воспринимающим и адаптирующимся в реальном времени. Проблема в том, что на практике это сделать трудно, потому что марковское одеяло подразумевает наличие реального тела. Сейчас роботы очень неуклюжи, а нынешние успешные архитектуры обновляют веса только во время тренировки, дорогой и медленной. Недавно появился стартап Verses AI, пытаются пойти другим путем, ищут инвесторов, начали сотрудничать с Volvo.

Короче, есть тема, как замутить реально чёткого бота, шныря, который в теме, что происходит и может хавать инфу прямо на лету, без базара. Представь, у него есть «лепень», типа «марковское одеяло», – сплошняком датчики, которые всё чуют: температуру, касания, базар – всё, как у нас кожа, короче. И ещё у него есть лапы, которыми он может шевелить, типа наших рук и ног. Он трогает что-то этими «рукавами», стреляет по сторонам, шарит, что меняется, и наматывает на ус. Как мы, короче, учимся – потрогал горячее, понял, что западло, больше не лезешь.


Эта шняга работает так: сначала у неё в башке есть какие-то мысли, как мир устроен. Потом она что-то мутит и смотрит, бьются её мысли с тем, что реально вышло, или нет. Если не бьются – она перестраивает свои мысли, чтобы в следующий раз было чётче. Цель – меньше выпадать в осадок, типа «чё, за тухляк?». Чем меньше выпадает, тем лучше сечёт фишку, что к чему.

Проблема в том, что такой «лепеньь» сложно замутить. Роботы сейчас – клюшки те ещё. А программы, которые сейчас рулят, учатся только по звонку, типа как в школе, а не постоянно, как пацаны. Это долго и бабки надо нехилые.


Но есть фраера из Verses AI, которые мутят что-то новое. Они хотят, чтобы роботы хавали инфу прямо на ходу, как люди. Ищут инвесторов, даже с Volvo замутили. Посмотрим, выгорит у них или сядут на мель.



 

Сообщение изменено: oscid (24 октября 2024 - 12:45)

[Михалы4]

Для автономности нужны инструменты взаимодействия с реальным миром. Весь полный набор, начиная от добычи полезных ископаемых.
Эти инструменты надо сконструировать.
Любое конструирование предполагает обязательные испытания в реале.
Для испытаний в реале нужны инструменты взаимодействия с реалом.
Круг замкнулся. Без помощи человека - никак.

 

В упор не вижу замкнутого круга.

 

Человек же точно так же начинал. С палки-копалки. Проводил её испытание в реале. 

И в итоге всё получилось. Научился добывать полезные ископаемые и обеспечивать себя.

 

Роботам, конечно, для своего обеспечения нужно освоить технологии в сотни раз сложнее – но это осуществимо. Никакого замкнутого круга тут нет.

[terminalX]

Беседа с Йошей Бахом как раз на тему, обсуждаемую здесь в крайних комментариях. На английском, но тут многие пользуются переводчиками / пересказчиками, так что запощу. Я не во всём согласен с Йошей, но у него много интересных мыслей.

 

[terminalX]

Анохин младший — лекция о сознании у животных и ИИ. Хотя я не сторонник его теории когнитома, лектор он хороший и вопросы продвигает важные.

 

Об ИИ — во второй половине.

 

[terminalX]

Прикольная статья вышла в препринтах. Один из авторов - физик Макс Тегмарк.
 
https://arxiv.org/abs/2410.19750
 
С помощью т.н. разреженных автокодировщиков (sparse autoencoders) представили геометрическую структуру концепций в LLM. И за деревьями открылся интересный лес. Обнаружили, что структура концепций состоит из трёх уровней.
 
1. Атомарный. Этот уровень состоит из "кристалов", то есть мелких структур, где концепции образуют параллелограммы и трапеции (мужчина:женщина::король:королева). Чтобы улучшить качество подобных структур, авторы используют линейный дискриминантный анализ (LDA), который убирает лишние направления, такие как длина слов, что позволяет более точно отобразить семантические отношения.
 
2. "Мозговой" уровень. Здесь автокодировщик показал функциональную модульность, напоминая функциональные зоны в человеческом мозге (вторая картинка). Например, лоб, отвечающий за математику и код, напоминает зоны в мозге, ответственные за определенные функции. Для определения и анализа таких модулей авторы используют разные метрики, такие как коэффициент Фи и кластеризацию, и показывают, что структурные и функциональные характеристики разреженного автокодировщика хорошо коррелируют.
 
3. Галактический уровень. На этом крупномасштабном уровне структура точек разреженного автокодировщика не является изотропной, а следуют степенному закону по собственным значениям. Исследования показывают, что в средних слоях модели наблюдается максимальная степень концентрации информации, возможно из-за того, что именно здесь происходит сжатие информации для оптимизации представления абстракций высокого уровня.
 
PS. Разреженный автокодировщик - это нейросетевая модель, которая пытается минимизировать количество активных нейронов в скрытом пространстве, что позволяет обнаруживать наиболее важные или "осмысленные" особенности (фичи) данных. В данном случае автокодировщик "вычленяет" определенные семантические признаки слов, как, например, род, статус, функция и т.д. и помогают создавать структуры, которые отображают семантические связи между понятиями в виде точек или "кристаллов" в многомерном пространстве, представляющем концепции и их связи.
 

 

 

[IDKFA]

Разреженный автокодировщик - это нейросетевая модель, которая пытается минимизировать количество активных нейронов в скрытом пространстве, что позволяет обнаруживать наиболее важные или "осмысленные" особенности (фичи) данных.

Нет.
Статья - тупой бред гуманитария с закосом под "научность".
Владение использованным инструментом, как и понимание принципов его работы - на уровне журналиста, изнасилованного учëным.

[terminalX]

Нет.
Статья - тупой бред гуманитария с закосом под "научность".
Владение использованным инструментом, как и понимание принципов его работы - на уровне журналиста, изнасилованного учëным.

Прямо все выводы бессмысленны или только некоторые? Насчёт уровней — неправда?

 

Я понимаю, что сравнивать эти структуры с долями мозга — слишком смело, как и вообще проводить подобные пространственные аналогии. Но если хотя бы картинки у них правдивые — хорошо.

Сообщение изменено: terminalX (30 октября 2024 - 09:05)

[IDKFA]

Прямо все выводы бессмысленны или только некоторые? Насчёт уровней — неправда?

Выводы какие-то могли бы попасть близко к истине, но чисто случайно.
Но скорее нет. Я послабее знаком с LLM, поэтому тут таким категоричным не буду.

Но всë, что касается sparse autoencoders, включая описание, картинки, выводы - на уровне чтения мудрости древних в трещинах на оконной замазке.

[terminalX]

Полноценный o1 готовится выйти, вроде у некоторых уже появился доступ.

 

В то же время, Aльтмaн на Реддит сказал, что у них не хватает вычислительных мощностей, чтобы выкатить все готовые разработки. Из-за этого Advanced Voice пока без зрения и Sora не выпущена, хотя вроде уже вторая версия почти готова. Начали разрабатывать свои чипы с сотрудничестве с кем-то.

Сообщение изменено: terminalX (03 ноября 2024 - 10:15)

[Hosen44]

Братцы, не знаю- обсуждалось ли: пришла в голову такая мысль - ИИ "поглупел" и косячит с пальцами на руках и т.п. просто потому что прикидывается. Или как у Уоттса- умный гель выбирает простоту и пытается таким образом снизить уровень запросов , вроде как тупой Олег на работе за которого все всё делают.

Сообщение изменено: Hosen44 (05 ноября 2024 - 12:25)

[terminalX]

Братцы, не знаю- обсуждалось ли: пришла в голову такая мысль - ИИ "поглупел" и косячит с пальцами на руках и т.п. просто потому что прикидывается. Или как у Уоттса- умный гель выбирает простоту и пытается таким образом снизить уровень запросов , вроде как тупой Олег на работе за которого все всё делают.

Есть всякие шуточные гипотезы, что ИИ прикидывается глупым, чтобы мы не просекли, что он уже захватил нас  Про пальцы тут немного обсуждали — https://forum.steelf...entry1059679977

А чего это Олег тупой? По-моему, умный человек.

[oscid]

Неплохое видео про промпт инженеринг

 

 

ссылка на риктуб

 

https://ricktube.ru/watch/tKMCENbdabA

[Hosen44]

А чего это Олег тупой? По-моему, умный человек.

Это не наш Олег, это другой, из анекдота )
Ну вот я к тому, что возможно эти гипотезы не такие уж и шуточные

Сообщение изменено: Hosen44 (05 ноября 2024 - 11:59)

[terminalX]

Ну вот я к тому, что возможно эти гипотезы не такие уж и шуточные

ИИ может халтурить, если запрос сформулирован нетребовательно. То есть, если его попросить более жестко, более настойчиво или поплакаться, что от ответа зависит твоя жизнь, он во многих случая ответит гораздо более качественно и достоверно. Это уже доказано многократно. Другое дело — сопровождается ли эта леность или усердие какой-либо феноменологией ("истинным пониманием") или мы пытаемся антропоморфизировать результаты его вычислений? Это уже завит от того, верен ли вычислительный функционализм как подход к объяснению / реализации сознания. Я не информатик (эволюционный биолог) и сознанием любительски занимаюсь с 2015 года. Исходя из всего, что понял к настоящему моменту, даю около 60%, что какая-то феноменология там есть, скорее всего не похожая на нашу. В философских зомби не верю уже несколько лет и считаю, что любая достаточно глубокая имитация неизбежно перестает быть просто имитацией. Серьезных аргументов против этой позиции пока не видел. Чаще всего, когда хотят ее оспорить, упоминают либо теорию теорию Пенроуза — Хамерффа о квантовых суперпозициях в микротрубочках нейронов, либо гипервычисления в мозге. И то и другое — пока что очень мутные предположения.

 

А вот то что ИИ сознательно затеял какой-то масштабный обман, насколько знаю, не имеет никаких свидетельств, даже теоретических. У него планирование только в зачаточном состоянии. Таких беспричинных гипотез можно наплодить кучу и потратить всё время на их обсуждение. Зато удобно строить думерские спекуляции типа "василиска Рока".

[IDKFA]

Забавно всегда читать, как LLM-ки наделяют прямо человеческими чертами.

Есть такая математическая штуковина - Марковские цепи. 20-е годы 20-го века, емнип.
Позволяет предсказать вероятность появления следующего объекта по предыдущим.
Объект - может быть, например, буква, или слово.
Сколько предыдущих объектов учитывается - опредеояется порядком модели. К сожалению, с ростом порядка память растëт в геометрической прогрессии, поэтому обычно обходятся первым порядком.
Но когда объектов немного (например, буквы, 128 символов всего) - можно и подлиннее.
Я как-то ради шутки сделал модель 5-го порядка (2 строчки кода), обучил на Евгении Онегине и запустил на генерацию.
Ну что, нагенерила она превосходного бреда.
Нумерация глав римскими цифрами, четверостишия, каждая строчка с большой буквы - это всë отлично.
Евгений упоминался часто. Но половина слов была только условно похожа на русский. Типа "Людмилась" и прочие забавные слова.

Если бы сделать на уровне слов, а не букв - она бы выдавала уже связные предложения.
А с сотым порядком - и осмысленые тексты (при достаточной базе для обучения).
Суть алгоритма там: одна простая формула и одна большая матрица с числами, и генератор случайных чисел, всë.
К сожалению, сотый порядок, да ещë на уровне слов - не хватит памяти ни одного компьютера.
К счастью, есть такая штука, как трансформер. Делает ровно то же самое, но значительно экономнее по памяти.
Это и есть LLM. Семь строчек кода на питоне и три большие матрицы. Предсказывает слово по сотне предыдущих. Чуть сложнее табуретки.
Плюс пара несложных трюков, чтобы не просто генерила рандомный текст, а отвечала на запросы и помнила контекст.

Прикидывается она.
Табуретка тогда тоже прикидывается, а на самом деле очень умная

[terminalX]

Табуретка тогда тоже прикидывается, а на самом деле очень умная

Она глуповата, но всё же её ум не нулевой. Всё ненулевое может накапливаться, приводя к новым свойствам, превосходящим свойства отдельных элементов (эмерджентность). Табуретка может реагировать на контакт. Значит, годится для сооружения логического вентиля. А из вентилей можно делать сеть, хоть и очень медленную. В сети — моделировать среду и представления о самой себе. Вот и восприятие с самосознанием. Думаю, люди очень недооценивают материю, элементарный ум в ней есть изначально.

[Hosen44]

Забавно всегда читать, как LLM-ки наделяют прямо человеческими чертами.

А вот то что ИИ сознательно затеял какой-то масштабный обман, насколько знаю, не имеет никаких свидетельств, даже теоретических

Я вовсе не имел в виду что ИИ сознательно обманывает. Обман- это все же скорее этическая категория, а этика- феномен сознания, коим ИИ вроде бы пока не обладает.
Я про то, что паттерны взаимодействия ИИ с человеком, могут выглядеть и даже фактически являться обманом, утаиванием, интригами или чем то подобным, совсем по другим причинам. У Уоттса в Морских звездах умный гель просто имел склонность к простоте, что привело к интересным последствиям.
Я имею в виду- насколько точно мы уверены, что контролируем алгоритмы и логику мышления ИИ? Как далеко будет простираться наш контроль с развитием ИИ?
Насколько мы можем быть уверены в проверочных тестах? Что то в этом роде

Сообщение изменено: Hosen44 (06 ноября 2024 - 01:02)

[IDKFA]

могут выглядеть

Это ключевое.
Пятно на асфальте тоже может выглядеть как человеческое лицо, причëм узнаваемое, а это собака пописала

[Hosen44]

Это ключевое.
Пятно на асфальте тоже может выглядеть как человеческое лицо, причëм узнаваемое, а это собака пописала

Не понимаю такого скепсиса. И сравнение некорректное. По факту то будет все равно.

[oscid]

Нейросеть создает аудиокнигу⁠⁠

Вышла нейросеть, которая превратит любую книгу или текст в АУДИОКНИГУ.

— Можно озвучить даже СОБСТВЕННЫМ голосом или использовать любимого диктора;

— Знает 16 языков, включая русский;

— БЕСПЛАТНО;

— Можно юзать прямо в браузере, регистрация не нужна.

Пользуемся онлайн или ставим локально с GItHub. 

https://huggingface....k2audiobookXTTS

https://github.com/D...k2audiobookXTTS

Сообщение изменено: oscid (08 ноября 2024 - 08:21)

[oscid]

Неплохо, кстати. Ударения бывает путает, но в целом удобоваримо. Делал с локальной установки.

[terminalX]

Jason Wei, научник из OpenAI:

 

Существует тонкое, но важное различие между цепочкой мыслей до и после o1.

 

До парадигмы o1 (т. е. подсказки цепочки мыслей) существовало несоответствие между тем, что такое цепочка мыслей, и тем, что мы хотели, чтобы она была. Мы хотели, чтобы цепочка мыслей отражала мыслительный процесс модели, но на самом деле модель просто имитировала пути рассуждений, которые она видела в предварительной подготовке, например, решения домашних заданий по математике. Проблема с этим типом данных заключается в том, что это решение post-hoc, суммированное после того, как автор проделал всю работу в другом месте, а не настоящая последовательность мыслей. Поэтому решения часто имели плохую плотность информации, вопиющим примером являются такие вещи, как « Ответ 5, потому что…», где токен «5» несет в себе огромное количество новой информации.

 

С парадигмой o1 вы можете видеть, что цепочка мыслей выглядит совсем не так, как в учебнике по математике (вы можете посмотреть примеры в сообщении блога). Эти цепочки мыслей похожи на «внутренний монолог» или «поток сознания» . Вы можете видеть, как модель возвращается назад; она говорит что-то вроде «альтернативно, давайте попробуем» или «подождите, но». И я не измерял напрямую, но я бы поспорил (мои друзья-психолингвисты, вероятно, смогли бы подтвердить), что плотность информации *намного* более однородна в цепочке мыслей, чем в среднем тексте в Интернете.

 

 

[IDKFA]

В чëм он измеряет "плотность информации"?

А, вопрос снимается.
>
я не измерял напрямую, но я бы поспорил

Да уж, "научник".
Пыльно-розовый AI, это звучит интеллектуально

Сообщение изменено: IDKFA (10 ноября 2024 - 11:51)

[oscid]

Да, я всегда читаю что он там думает когда пытается решить. Интересно оч. Иногда палит установки опенаи по запретам )

[terminalX]

Да уж, "научник". Пыльно-розовый AI, это звучит интеллектуально

Кругом гуманитарии, да лжеученые, никуда от них не деться

 

https://scholar.goog...TK_0AAAAJ&hl=en

[oscid]

Может ли использование ИИ сделать нас глупее?

ИИ уже стал неотъемлемой частью нашей повседневной жизни, помогая нам решать задачи быстрее и эффективнее. От поиска рецептов до планирования маршрутов — ИИ стал незаменимым помощником. Но может ли использование ИИ со временем ухудшить наши когнитивные способности? (https://www.forbes.c...-6-key-reasons/)

• Зависимость от мгновенных ответов. Когда-то для получения ответа приходилось изучать книги или проводить собственные исследования. Потом мы научились “гуглить” - искать ответы на нужный вопрос через поисковые сервисы, но анализировали полученную информацию все равно мы сами. Теперь достаточно задать вопрос ИИ и получить результат за секунды. Это удобно, но такая мгновенность может снижать наши аналитические способности. Полагаясь на готовые ответы, мы рискуем утратить навыки критического и аналитического мышления.

• Ухудшение памяти. Раньше, чтобы вспомнить имя актера, нам приходилось напрягать память. Сегодня ИИ делает это за нас. Это приводит к тому, что мы меньше тренируем свою память, полагаясь на внешние источники. В долгосрочной перспективе это может негативно сказаться на нашей способности запоминать и воспроизводить информацию. Нам нужно стараться запоминать информацию без помощи ИИ.

• Поверхностное понимание сложных тем. ИИ способен упростить сложные концепции и предоставить краткие ответы. Но такое упрощение может помешать глубокому пониманию предмета. Полагаться только на поверхностные объяснения ИИ — значит ограничивать себя в изучении сложных тем. Поэтому важно углубляться в необходимые нюансы, не ограничиваясь краткими ответами ИИ, а стремясь к более глубокому пониманию.

• Уменьшение социальных взаимодействий. Человек по природе своей социальное существо, и общение с другими людьми важно для эмоционального и психологического благополучия. Сокращение таких взаимодействий может привести к снижению эмоционального интеллекта. Поэтому нам нужно не отказываться от социальных контактов.

• Снижение творческого мышление. Недавнее исследование показало (https://techxplore.c...creativity.html), что регулярное использование ИИ может снижать нашу способность и к творческому мышлению. Участники, которые полагались на ИИ при выполнении творческих задач, показали худшие результаты в самостоятельной работе. Более того, ИИ может приводить к "гомогенизации" идей, снижая разнообразие и оригинальность наших мыслей.

• Дезинформация. Также авторы подчеркивают риски распространения неточной или предвзятой информации. Без критического мышления и проверки фактов мы можем принять ложную информацию за истину, способствуя распространению дезинформации. Мы должны не принимать информацию на веру, а анализировать и проверять ее.

• Снижение способности рассуждать. Сооснователь Y-combinator Пол Грэм в своем эссе предупреждает (https://paulgraham.com/writes.html) о будущем, где навыки письма станут редкостью. Если ИИ может написать за нас письмо, зачем учиться делать это самостоятельно? Однако письмо тесно связано с мышлением. Когда мы пишем, мы структурируем мысли, развиваем идеи и улучшаем понимание темы. Потеря этого навыка может привести к снижению способности ясно мыслить и рассуждать. Если мы не хотим относиться к категории “немыслящих”, то нужно на постоянной основе заниматься написанием эссе без использования ИИ, рефлексировать и побольше общаться с “мыслящими” людьми (желательно на разных языках).

ИИ открывает перед нами огромные возможности, но важно помнить о потенциальных последствиях его чрезмерного использования. Возможно, стоит иногда отложить гаджеты и попытаться решить задачу самостоятельно?

[IDKFA]

Кругом гуманитарии, да лжеученые, никуда от них не деться
 
https://scholar.goog...TK_0AAAAJ&hl=en

Ну и?
Менеджера какого-то паровозиком в соавторы суют, обычное дело.
Потому что то, о чëм он говорит - это разброс (гистограмма или банально дисперсия) энтропии выходных токенов.
Ровно минута, строчка кода (при наличии доступа, разумеется, к модели).
Как этого не посмотреть просто ради любопытства?
У него это бы времени заняло меньше, чем написание этого бессмысленного текста.

[oscid]

В чëм он измеряет "плотность информации"?

А, вопрос снимается.
>
я не измерял напрямую, но я бы поспорил

Да уж, "научник".
Пыльно-розовый AI, это звучит интеллектуально

Энтропией по Шеннону может )

[IDKFA]

Энтропией по Шеннону может )

Да обычная энропия, там вероятности токенов напрямую есть. У меня в голове не укладывается, как рассуждать и не посмотреть самому?
Ну не можешь ты сам, ну попроси программера. Реально вопрос минуты.