466 ответов в этой теме

[terminalX]

"...имея в распоряжении только текст"

Так это самое главное. Текста достаточно для любого типа восприятия и любого их сочетания.

[terminalX]

Сегодня Сэма Альтмана уволили из OpenAI. Вроде из-за остановки прогресса, но это пока не точно. Инвесторы хотят его вернуть.

[Grillmaster]

слава богу.

[Kaчок]

Вроде из-за остановки прогресса

Есть же еще дебилы верящие в прогресс в вакууме. 

Особенно то, что созданное человеком и обучающееся и служащее серой массе болдьшинства людей.

[terminalX]

Сейчас узнал, что и Суцкевер против него проголосовал, а может даже был инициатором. Короче, произошел раскол между научниками и предпринимателями. Альтман с Брокманом тянули в сторону коммерческой привлекательности сервиса и ускорения, а научники – в сторону AGI и безопасности. Вот коммерсов и выкинули (Брокман все еще там, но понижен). На стороне Ильи с единомышленниками – весь опыт разработки. А на стороне Альтмана с Брокманом – инвесторы, включая Майкрософт, и опыт предпринимательства, благодаря которому они притянули финансирование. И теперь инвесторы хотят разогнать совет директоров и вернуть Альтмана. Пока такая картина, со временем будет проясняться.

Забавно, несколько недель назад я слушал интервью Альтмана, он там "хватался", что он никакой не всемогущий начальник, мол, у них там демократия и его могут уволить в любое время.

[terminalX]

прогресс в вакууме

Странное словосочетание, не слышал о таком.

[Kaчок]

Странное словосочетание, не слышал о таком.

Каков прогресс будет, если в нем нет нужды?

Коммерциализация приводит к ориентировке на большинство.

А это автоматом достаточно низкий уровень потребностей,.. о прогрессе так и вовсе... в нем особой необходимости для бОльшей массы людей нет.

Уже достигнутый уровень значительно превышает потребности большинства.

В контексте тренировок будет где-то так. У абсолютного большинства потребности из разряда, ходит в зал, уже хорошо, это не на лавке пиво пить.

А прогресс нужен для победы на Олимпии(олимпиаде, коммерческом турнире, чемпионате мира, страны, не важно где именно).

Соответсвенно в общем потребность в прогрессе тренировочном, оборудования, качества услуг находится ниже плинтуса.

А так как обучение происходит на потребностях в общем, то и качество в общем будет ни рыба, ни мясо. В любых вещах расчитаных на большинство.

И тема ИИ находится аккурат в вакууме. Возможности превышают потребности и надо долго и мучительно придумывать куда бы это с пользой пристроить.

[swistl]

"...имея в распоряжении только текст"

Так это самое главное. Текста достаточно для любого типа восприятия и любого их сочетания.

 

[terminalX]

А так как обучение происходит на потребностях в общем, то и качество в общем будет ни рыба, ни мясо. В любых вещах расчитаных на большинство.

Понял твою мысль. Но я думаю, каким бы путём ни пошла компания, социализироваться её детищу всё равно придется, и чем больше, тем лучше. Другой вопрос – будет ли это только социализация, или будут и другие направления в развитии, например, многомодальность, улучшение алгоритмов обучения, повышение точности, воплощение в роботов и т.д. Хорошо, что OpenAI не единственные. Наверняка будут разные подходы, особенно если глобально не запретят опенсорсовость для больших сетей.

Сообщение изменено: terminalX (20 ноября 2023 - 07:30)

[terminalX]

Уволенных Альтмана с Брокманом взяли в Майкрософт. Там буду трудиться над чем-то конкурирующим с OpenAI.

[oscid]

Уволенных Альтмана с Брокманом взяли в Майкрософт. Там буду трудиться над чем-то конкурирующим с OpenAI.

Над порабощением человечества ессно.  Два чувака с фамилией -ман и гларептилоид Гейц проповедующий сокращение населения и вакцинацию комарами

[terminalX]

Ну тролляра!  

 

Сообщение изменено: terminalX (21 ноября 2023 - 11:11)

[terminalX]

Сегодня голосовую-зрячую версию ChatGPT сделали бесплатной для всех. Через приложение. Но многие (и я) пока не могут подключиться из-за перегруза.

[Dlor]

Уволенных Альтмана с Брокманом взяли в Майкрософт.

Альтмана вернули в OpenAI. А инициатора его увольнения и часть совета директоров разогнали.

 

[terminalX]

Альтмана вернули в OpenAI. А инициатора его увольнения и часть совета директоров разогнали.

Да, в курсе, вернулись оба. А совет вроде как сам себя разогнал, т.е. инициатива изошла от самих участников, включая Суцкевера и временного директора.

[oscid]

Слабо яйцеголовым против рептилоидов. Ученые постоянно забываются кто кому слуга

[terminalX]

Слабо яйцеголовым против рептилоидов. Ученые постоянно забываются кто кому слуга

Сейчас никто извне не знает, что там произошло. По слухам, напряжённость длилась около года, из-за разных приоритетов. Как решились на увольнение, оказалось, что добрая половина сотрудников за Альтмана (это уже не слух), а такой отток работников мог погубить компанию или откинуть назад. Когда Суцкевер это понял, сразу написал пост в твиттере, что сожалеет и попытается вернуть.

Насчёт рептилоидов - затянувшаяся шутка.

[oscid]

Сейчас никто извне не знает, что там произошло. По слухам, напряжённость длилась около года, из-за разных приоритетов. Как решились на увольнение, оказалось, что добрая половина сотрудников за Альтмана (это уже не слух), а такой отток работников мог погубить компанию или откинуть назад. Когда Суцкевер это понял, сразу написал пост в твиттере, что сожалеет и попытается вернуть.
Насчёт рептилоидов - затянувшаяся шутка.

Это не шутка. Гейтс это вам не ученый фрик. Он держит планету за яйца

[terminalX]

Это не шутка. Гейтс это вам не ученый фрик. Он держит планету за яйца

Ну, влиятельность Гейтса - несколько другой разговор. Хотелось бы, чтоб держал, но увы.

[terminalX]

По слухам, новый алгоритм придумали, объединяющий две уже известные концепции. Скандал с этим связывают.

[terminalX]

Немного порылся насчет нашумевшего алгоритма Q* и его ценности. Чаще всего предполагают, что это сочетание алгоритма обучения с подкреплением Q-learning и алгоритма поиска по графу A*. Q-learning - это алгоритм, который позволяет нейросети научиться выбирать действия, которые приводят к максимальной награде в повторяющейся среде. A* - это алгоритм поиска, который позволяет найти кратчайший путь между двумя точками в графе. Причем, насчет причастности второго компонента (A*) уверенности гораздо меньше, у некоторых экспертов есть другая версия о нём. В любом случае, достижение OpenAI тут в их объединений и реализации.

Короче, недостаток нынешних искусственных нейросетей типа ChatGPT в том, что они не умеют мыслить логически, а только "интуитивно" (вероятностно). Поэтому они отлично справляются с "гуманитарными" задачами типа написания текстов, стихов, картин. А с технарьскими задачами типа программирования, математики и физики справляются хоть и неплохо, но всё же доверять им полностью нельзя, так как некоторый процент глюков неискореним. Свои ответы они выводят не строгим методом, как настоящие математики, а через распределения вероятностей, вычисляемых на основе тех данных, по которым учились. Проще говоря, если задача была в датасете, они скорее всего дадут точный ответ, а если задача для них новая, они обобщают имеющийся опыт и вероятностно "чуют" правильный ответ, и иногда промахиваются – величина промаха зависит от конкретной сети и задачи. В некоторых типах заданий промахиваются постоянно, особенно где многозначные числа.

Но алгоритм Q* добавит в их рассуждения нечто очень близкое к настоящей логике. Теперь они смогут выводить достоверные ответы. Пока смогут решать только не очень сложные задачи, но это пока. У этого новшества далеко идущие последствия. Теперь они смогут сами для себя создавать качественные синтетические данные и становиться еще умнее без дополнительного обучения. В философии Канта это называется – априорные синтетические суждения. По сути, у них теперь будет почти всё необходимое для внутренней генерации и тестирования гипотез. Значит, смогут открывать новое знание и улучшать самих себя. На практике, конечно, всё это пока не проверено, по крайней мере публично.

[IDKFA]

Графы-графами, но лосс то по любому вероятностный.

Через жёсткую логику с N вариантами градиент не проходит.

Такое напрямую не обучается, только выбор лучшей из N веток на каждом шаге.

Это делают давно, и я так делал. Принципиально это ничего не меняет

[terminalX]

Сегодня в википедии появилась статья о предполагаемом Q*. Пока мало инфы.

 

https://en.wikipedia.org/wiki/Q*

[oscid]

 Инструмент искусственного интеллекта GNoME обнаружил 2,2 миллиона новых кристаллов, включая 380 000 стабильных материалов, которые могут стать основой технологий будущего, сообщается в статье, опубликованной в Nature.

[oscid]

Ох. Нам скоро всем пясда, ребятки ))

 

Google объявила о запуске главного конкурента ChatGPT — ИИ-модели Gemini, которая обходит GPT-4 в большинстве тестов. По словам гендиректора компании Сундара Пичаи, Gemini — это огромный шаг вперёд в развитии ИИ, который в конечном итоге повлияет практически на все продукты Google. Модель способна на «продвинутые рассуждения» в нескольких форматах и появится в открытом доступе 13 декабря.

Сундар Пичаи анонсировал выход Gemini на конференции I/O в июне. Сейчас под именем Gemini Google выпустила сразу несколько ИИ-моделей. Так, «лёгкая» Gemini Nano предназначена для работы на устройствах Android. Модель Gemini Pro вскоре станет основой многих сервисов Google, и в первую очередь чат-бота Bard. Самую мощную модель, Gemini Ultra, разработчики называют крупнейшей LLM, которую когда-либо выпускала Google. Она, по всей видимости, предназначена для центров обработки данных и корпоративных приложений.

Gemini, Pro и Nano выйдут в среду, 13 декабря. Доступ к модели Pro можно будет получить через чат-бота Bard, а для разработчиков и корпоративных клиентов доступ будет открыт через Google Generative AI Studio или Vertex AI в Google Cloud. Стоит отметить, что версия Bard на базе Pro пока не выйдет в Великобритании и Швейцарии из-за задержек в согласовании релиза с местными регуляторами. Что касается версии Ultra, то она ещё тестируется и увидит свет только в 2024 году. Известно, что её интегрируют в продвинутую версию Bard под названием Bard Advanced.

Gemini пока доступна только на английском языке, однако скоро будет поддерживать и другие. Как утверждает Сундар Пичаи, эта модель в конечном итоге будет интегрирована в поисковую систему Google, её рекламные продукты, браузер Chrome и другие приложения. 

Gemini — мультимодальная модель, она способна воспринимать текст, аудио, изображения, видео и код. Компания уже протестировала Gemini в сравнении с GPT-4, которая лежит в основе чат-бота ChatGPT от OpenAI. В Google заявили, что Ultra превзошла GPT-4 в 30 из 32 тестов производительности, в том числе в рассуждении и распознавании изображений. Модель Pro превзошла GPT-3.5 в шести из восьми тестов.

Google также заявила, что Ultra стала первой ИИ-моделью, которая превзошла людей в многозадачном тесте под названием MMLU, который охватывает 57 предметов, включая математику, физику, право, медицину и этику. Ultra будет использоваться в новом инструменте для написания кода под названием AlphaCode2, который, по утверждению Google, способен в тестах превзойти 85% программистов-людей.

Как заявляют разработчики, самое явное преимущество Gemini заключается в её мультимодальности. Google не обучала отдельные модели для распознавания голоса и изображений, такие как DALL-E и Whisper от OpenAI, а с самого начала строила одну модель, способную воспринимать разные виды информации. И в Google обещают, что это восприятие будет только улучшаться.

«Есть ещё такие вещи, как действие и прикосновение, что уже больше относится к области робототехники, — заявляет генеральный директор DeepMind Демис Хассабис. По его словам, со временем Gemini получит больше «чувств», станет осознаннее и точнее. — Эти модели просто лучше понимают окружающий мир».

[IDKFA]

Ну штош, прекрасно. 

Возможно, теперь гугл даже перестанет бояться распознавать картинки с гориллами и неграми )) 

Сообщение изменено: IDKFA (07 декабря 2023 - 08:04)

[terminalX]

Смотрел результаты тестов, не намного превосходит GPT 4, в основном на несколько процентов. И не во всем пунктам, хотя по большинству. Прорывом вряд ли будет. Но радует, что появляются достойные альтернативы, их будет всё больше. А вот у DeepMind реально достижение.

[Grillmaster]

Отупление тинагеров идёт полным ходом) Лет через 30-50 население планеты пpевратится в безмозглое зомбостадо

[terminalX]

Отупление тинагеров идёт полным ходом) Лет через 30-50 население планеты пpевратится в безмозглое зомбостадо

Абсолютное число гениев сейчас самое большое в истории и продолжает расти. Думаю, для прогресса это важнее, чем снижающееся относительное.

[Grillmaster]

Абсолютное число гениев сейчас самое большое в истории и продолжает расти. Думаю, для прогресса это важнее, чем снижающееся относительное.

Золотой миллиард? )