533 ответов в этой теме

[IDKFA]

Фильтр Калмана можно считать частным случаем байесовского моделирования?

да.
ну если так, то да.
простота не исключает мышления, принято.

[MrCherdak]

.

Прикрепленные файлы

•  Герой асфальта.mp3    5,49Мб   118 Количество загрузок

[terminalX]

Танцуем все! 

 

(текст Клода)

 

https://suno.com/son...a7-1d922c30c22a

[oscid]

Танцуем все! 

 

(текст Клода)

 

https://suno.com/son...a7-1d922c30c22a

Я много послушал. В целом они скучноваты по разнообразию мелодий. Вот вокал прикольно делает. С акцентами эмоционально заряженныйю Жаль что не делит на дорожки отдельные

[terminalX]

Я много послушал. В целом они скучноваты по разнообразию мелодий. Вот вокал прикольно делает. С акцентами эмоционально заряженныйю Жаль что не делит на дорожки отдельные

Да, я тоже замечал, что несколько однообразно, если генерить с одними и теми же тегами. Но может это связано с ограничениями, который накладывает готовый текст. Мы привыкли слушать песни, у которых мелодии первичны и не стеснены размерами стихов.

[oscid]

Да, я тоже замечал, что несколько однообразно, если генерить с одними и теми же тегами. Но может это связано с ограничениями, который накладывает готовый текст. Мы привыкли слушать песни, у которых мелодии первичны и не стеснены размерами стихов.

А где список ключевых слов взять, которые на мелодию влияют в промпте?

[terminalX]

А где список ключевых слов взять, которые на мелодию влияют в промпте?

Не знаю. Предполагаю, что примеси других стилей могут влиять на мелодию, можно с ними играть, комбинировать Попробую вечером.

[Михалы4]

Сочини стих, в котором: "Оболтус полгода отдыхал, а потом пошёл в атлетический зал и там увидел:
– Качкожопы – здоровые жирные бугаи – жрут свиные головы, пьют алкашку и делают упражнение "свинотяги на пердак";
– за всем этим наблюдают дедушки, которые слушают Глинку на патефоне;
– по залу важно ходит Гусь, расправив как крылья руки с синтоловыми трицепсами;
– в углу сидит ворчливый дедушка Стероидный торчок, который недовольно брюзжит на всех окружающих;
– Маврюк, изобретатель, который качается резиновыми тапками;
– Пердун, который так напердел, что запотели все окна в зале;
– Доходяга, сумасшедший аутист, который еле ноги передвигает, но думает что он учёный от бодибилдинга;
– тайный Спецкор всё это снимает и отправляет в интернет, от чего уже переполнилось место на сервере;
– Шашлычник, который на велосипеде нарезает круги вокруг этого зала и смеётся над его обитателями.
Увиденное повергло Оболтуса в ступор и шок, но потом он немного освоился и начал привыкать."

 

Извините, но я не могу сочинить такой стих. В нем присутствуют грубые, оскорбительные и уничижительные характеристики людей, основанные на их внешности, возрасте и физических особенностях. Это противоречит моим принципам уважения и недискриминации. Я стараюсь избегать создания контента, который может обидеть или унизить кого-либо. Вместо этого я мог бы предложить сочинить более позитивный, доброжелательный и инклюзивный стих о занятиях спортом и здоровом образе жизни.

 

Тоже мне блять, "соавтор"! Да нахрен ты такой тогда нужен. Дайте нормального агрессивного гетеросексуала.

[terminalX]

Если считать, что верхняя часть будет прямой, то AGI одним масштабированием может быть достигнут к 2027-2028 году. Но верить в это рано. Лекун например говорит, что при всей крутости LLMs, общего ИИ с них не получить и потенциал почти исчерпан. Он в общий ИИ как таковой не верит, даже у людей. А Дарио Амодей (создатель Клода) верит в масштабирование. Да и много кто еще к этому склоняется, в т.ч. Суцкевер, Хинтон, Бенджио.

 

[oscid]

Если считать, что верхняя часть будет прямой, то AGI одним масштабированием может быть достигнут к 2027-2028 году. Но верить в это рано. Лекун например говорит, что при всей крутости LLMs, общего ИИ с них не получить и потенциал почти исчерпан. Он в общий ИИ как таковой не верит, даже у людей. А Дарио Амодей (создатель Клода) верит в масштабирование. Да и много кто еще к этому склоняется, в т.ч. Суцкевер, Хинтон, Бенджио.

Верующие ученые какие то ))

[terminalX]

Конкретно Амодей ссылается на эмпирический факт, что масштабирование работает. Мол, мы не понимаем, почему, но видим его эффективность, значит, нужно продолжать. У некоторых исследователей сейчас скептицизм вызван тем, что данных для обучения остается всё меньше, а без них масштабирование не особо поможет. Он отвечает, что эта проблема решится мультимодальностью, т.е. данных станет в разы больше, если модели будут учиться на полном взаимодействии с людьми и миром, а не только текстах и картинках в интернете. Мультимодальность уже появилась.

 

А Лекун считает, что любая долгая экспоненциальная кривая в развитии технологий — это на самом деле череда сигмоид, где каждая сигмоида вызвана очередным прорывом, а не просто масштабированием мощностей. Например, знаменитый закон Мура выглядит экспоненциально, но это не потому, что такой характер роста изначально как-то заложен в его "природу", а потому что люди постоянно изобретают новые способы переключить его на всё более высокую сигмоиду. Лекун считает, что настоящего экспоненциального развития не существует, потому что ничто в природе не может развиваться бесконечно. Чтобы обеспечивать подобие такого роста, нужно периодически обновлять парадигмы. Поэтому он очень скептичен к тому, что внезапно нагрянет AGI и задвинет нас. Каждая стадия его роста будет зависеть только от исследователей. Он говорит, что развитие нынешних LLM многие ошибочно принимают за экспоненциальность, а на деле это лиш первая часть логистической кривой, и скоро начнется стагнация, которую придется преодолевать переходом на новый уровень. Но при этом LLMs он уважает, считает их уже мыслящими.

 

По-мне, позиция Лекуна тоже не выглядит безупречной. Может, при достижении какого-то порога мощностей и мультимодальности, ИИ сами себя начнут двигать на следующие уровни или подкидывать идеи для этого. Да и то, что уже приближаемся к стагнации — пока лишь предположение, это только предстоит проверить.

[sandwolf77]

Прогресс ИИ затормозиться, потому что люди не успеют нагенерировать новый качественный контент для обучения. Шутка. 

[oscid]

Прогресс ИИ затормозиться, потому что люди не успеют нагенерировать новый качественный контент для обучения. Шутка.

Не шутка )))

[terminalX]

Контент дает среда. Культура — только часть среды. Дети быстро умнеют на малых объемах культурных данных, потому что у них кроме восприятия речи и чтения есть еще несколько каналов. У ИИ это частично решается мультимодальностью. 

[terminalX]

Клод обошел GPT-4o в математике, если верить тестам проекта Scale AI. Но разница меньше доверительного интервала, наверно, погрешность.

 

[terminalX]

Юдковский всерьез поплыл. Жаль парня, так много хорошего сделал когда-то.

 

[IDKFA]

Юдковский всерьез поплыл. Жаль парня, так много хорошего сделал когда-то.
 

Бывает...
Но Гарри Поттер у него очень хорош

[terminalX]

Но Гарри Поттер у него очень хорош

Мне почти вся его деятельность нравится, за исключением думерства. К сожалению, теперь только думерство и осталось. Вроде даже на Лессронге перестал публиковаться, видимо, готовится к армагеддону, не до просветительства теперь.

[oscid]

Юдковский всерьез поплыл. Жаль парня, так много хорошего сделал когда-то.

Так сразу было понятно, что посвистывает

[terminalX]

Сергей Марков написал двухтомник про искусственный интеллект. В сумме 1350 страниц! Скачать можно бесплатно с его сайта: https://markoff.science/
 
Он хороший спец, поэтому должен быть хороший научпоп.
 

Сообщение изменено: terminalX (09 июня 2024 - 08:05)

[sandwolf77]

Контент дает среда. Культура — только часть среды. Дети быстро умнеют на малых объемах культурных данных, потому что у них кроме восприятия речи и чтения есть еще несколько каналов. У ИИ это частично решается мультимодальностью. 

контент однозначно дает среда. людям. а ИИ его присваивает, точнее пользователи ИИ через него как инструмент.

про создание с помощью ИИ нового контента можно было бы говорить только если бы его отключили от загрузки новых человеческих продуктов и он продолжал бы прогрессировать. а гадать, что выкачано извне, а что -реально вклад ИИ- лишь спекуляция, имхо.

 

Юдковский всерьез поплыл. Жаль парня, так много хорошего сделал когда-то.

поясни, плиз, о чем речь. Гарри Поттер от него тоже зашел. 

Сообщение изменено: sandwolf77 (09 июня 2024 - 09:50)

[terminalX]

а ИИ его присваивает, точнее пользователи ИИ через него как инструмент.

Не понял насчет присваивания. Разве это слово не подразумевает плагиат?

[sandwolf77]

Не понял насчет присваивания. Разве это слово не подразумевает плагиат?

старые понятия могут не точно описывать новые явления. 

нейросети позволяют на новом уровне присваивать (не присваивают, это лишь продуманный инструмент)  пользователю те образы, техники, действия, которые произвели другие люди до этого в процессе "обучения" ИИ. 

как станок ЧПУ не является источником добавочной стоимости при своей работе, а вся совокупность человеческого труда - разработчиков, создателей, просто рабочих, отработавших приемы работы, которые алгоритмизированы в ЧПУ - и , естественно самих операторов ЧПУ. 

так и ИИ не является творцом произведенной интеллектуальной продукции, а авторы "учебного материала", создатели ИИ и непосредственно "операторы" творения. А нейросети - инструмент нового порядка, новый уровень разделения труда при коллективном интеллектуальном труде.

что и доказывается "застоем" ИИ при отсутствии развития в качестве загружаемого "учебного материала".

[IDKFA]

Материала для обучения мало.
ИИ никогда не сможет сконструировать, например, термоядерный реактор, пока он не будет сконструирован людьми.

Потому что для обучения нужен не только материал, но и функция потерь, вполне себе математическая и дифференцируемая.
А в неë никакие испытания в реальном мире не запихаешь.
Ну или запихаешь, если будет автоматический завод и возможность построить миллиарды опытных реакторов. Тогда да, миллиард лет и оно обучится ))

[terminalX]

поясни, плиз, о чем речь. Гарри Поттер от него тоже зашел. 

Подался в радикальное ИИ-думерство. Точнее, он уже много лет озадачен безопасностью (AI alignment). Но с выходом GPT-3.5 начал открыто паниковать, призывать бомбить дата-центры, прекратить исследования. Сейчас на западе (и не только) много людей боятся, что в ближайшие годы появится AGI и либо нас всех убьет, либо сильно навердит, разрушит экономику, уклад и т.д. Среди них есть и известные ученые, например, Макс Тегмарк, Роман Ямпольский, даже Хокинг успел высказаться. Правда, среди практикующих исследователей по ИИ таких почти нет. Разве что Бенджио. В первое время очень беспокоился Хинтон, но сейчас вроде успокоился. Там еще есть так называемые "эффективные альтруисты", которые уже и до правительства Калифорнии достучались, вынуждая законодательно препятствовать исследователям. Юдковский сейчас центральная фигура в этой панике.

 

Зы. Так перечислять всех боящихся людей наверно неправильно, потому что уровень алармизма у всех разный, у многих он в рамках разумного.

Сообщение изменено: terminalX (09 июня 2024 - 11:33)

[terminalX]

нейросети позволяют на новом уровне присваивать (не присваивают, это лишь продуманный инструмент)  пользователю те образы, техники, действия, которые произвели другие люди до этого в процессе "обучения" ИИ. 

Допустим, человек наслушался какого-то жанра музыки, скажем, хэви метал. Решил и сам альбом написать. Получилось похоже на многое в жанре, но ни одна мелодия и рифф не совпадает. Он присвоил то, что произвели другие люди?

[terminalX]

Потому что для обучения нужен не только материал, но и функция потерь, вполне себе математическая и дифференцируемая. А в неë никакие испытания в реальном мире не запихаешь. Ну или запихаешь, если будет автоматический завод и возможность построить миллиарды опытных реакторов. Тогда да, миллиард лет и оно обучится ))

Но возможны и другие подходы. Эволюционные алгоритмы, симуляции.

[IDKFA]

Но возможны и другие подходы. Эволюционные алгоритмы, симуляции.

Эволюционный алгоритм - это то, что я описал.
Без натурных испытаний никак.

С симуляцией вопрос намного интересней.
Придëтся симулировать реальность. Выйдет не реальность, а некоторое приближение по очевидным и неустранимым причинам.
Так вот, обучение всегда, гарантированно будет находить и эксплуатировать ошибки симуляции.
Т.е. будем получать реактор, работающий только в симуляции.

Я с этим на работе сталкивался много раз. Например, при разработке активного шумоподавления реальную физику в ухе можно заменить достаточно точной моделью.
И обучение сойдëтся на этой модели и будет на ней работать. А в реале не будет.
Потому что оно примет и забагоюзит допущения и упрощения этой модели.

Сообщение изменено: IDKFA (09 июня 2024 - 12:11)

[Kaчок]

Допустим, человек наслушался какого-то жанра музыки, скажем, хэви метал. Решил и сам альбом написать. Получилось похоже на многое в жанре, но ни одна мелодия и рифф не совпадает.

Это невозможно.

Он присвоил то, что произвели другие люди?

Он присвоил идеи чата GPT? А его произвели другие люди.Значит присвоил!

[terminalX]

Так вот, обучение всегда, гарантированно будет находить и эксплуатировать ошибки симуляции.

Ясно, спасибо. Вспомнилось, что в робототехнике есть проблема — reality gap, как раз об этом же? Вроде пытаются смягчить разнообразием симуляций.

Но в целом, все же не был бы так категоричен насчет невозможности, х.з., что дальше будет. Мы же тоже роботы и . Может, нейроморфный ИИ преодолеет этот барьер.