784 ответов в этой теме

[Kaчок]

terminalX:

Чем меньше будет потребности в уме, тем больше должно появляться инструментов для его поддержания

С какого чуда? Зачем поддерживать то, что не нужно?

[terminalX]

Kaчок писал 17 Нов 2024 - 11:03:

С какого чуда? Зачем поддерживать то, что не нужно?

Некоторые люди (большинство?) видят в этом самоценность, без прагматического смысла. Если это будет массово — почему бы им не угодить при наличии возможности? Кроме того, мы пока еще мало знаем о механизмах боли-удовольствия и насколько важную роль там играет кора. Может, с точки зрения максимизации счастья ум будет нужен. Имею в виду наш автономный ум, не в связке с машинами.

[Михалы4]

Kaчок:

Ведь пользоваться краном, когда тебе нужно перенести пакет это не от большого ума.

 

Вас понял. Вы призываете к тому, что если что-то можно сделать самостоятельно, без использования инструментов – то нужно это делать именно так. Сводить к шуточным примерам – копать яму руками вместо лопаты – не будем.

 

Возьмём такого же рода претензию в отношении ЯЗЫКА. Например, языка программирования.

 

Программист "стоит на плечах" сотен предшественников разработки языка – и пользуется уже готовым языком, даже не представляя, ОТКУДА всё это взялось, в чём его корни и принцип происхождения. То есть он может и не знать как там двигаются электрические заряды в вычислительных машинах на основе полупроводников – и быть при этом абсолютно успешным программистом.

 

Точно так же, как вы абсолютно успешно пользуетесь ЯЗЫКОМ – разговорным, при этом не имея понятия о принципах его возникновения: как формировались буквы, как формировалась лексика и т.д.

 

-----------------

Ну так разве мы вправе пользоваться языком – если досконально не знаем его истоков? Пользоваться научными знаниями – если не знаем досконально истоков каждого из них?

Можно и такое задвигать )

 

Дескать, вот этот "прыжок" в знаниях ("перескок") – делает нас глупее. Он сделал программиста глупее. Учёного. Пользователя русского языка. И так далее.

 

На самом же деле ИСПОЛЬЗОВАНИЕ ИНСТРУМЕНТА не делает "гарантированно глупее" никого )

Использование инструмента происходит в рамках решения задач – читай: БОЛЕЕ СЛОЖНЫХ, чем были доступны без инструмента.

Сообщение изменено: Михалы4 (17 ноября 2024 - 05:02)

[oscid]

Учёные полностью оцифровали мозг мухи и сделали её бессмертной!⁠⁠ Впервые удалось перенести в цифру настолько сложный организм.

Оцифровать мозг человека сейчас нереально: в нём 86 миллиардов нейронов. Когда это получится, человек получит цифровое БЕССМЕРТИЕ — наше сознание можно будет полностью перевести в ИИ.
Ученные начали с малого — оцифровывают мозги самых простых организмов типа червей и личинок. Первым был Caenorhabditis elegans (302 нейрона). Позже были личинки и простейшая рыба.
Наконец учёные взялись за организм сложнее — взрослая дрозофила (Drosophila melanogaster), у которой 139,5 тысяч нейронов и 54,5 миллиона синаптических связей между ними.

Работу вели с 2016 года сотни учёных. В конце концов, мозг УДАЛОСЬ оцифровать. Он лежит в открытом доступе вот тут.

САМОЕ ВАЖНОЕ

• Устройство мозга дрозофилы имеет сложные внутренние сети: нейроны передачи сигналов, сумматоры для построения агрегированных данных и так далее. Они позволяют мухе обрабатывать информацию и управлять каждой конечностью по-своему;

• Около 14% нейронов отвечают за передачу сенсорных данных глубже в мозг, превращая дрозофилу в аналог операционной системы в реальном времени;

• Сейчас же всё это можно скачать и воспроизвести — мозг весит 14 Гб.

[ole]

Исполнение желаний по щелчку, главное чтобы по кайфу.

 

 

https://dzen.ru/a/ZsQaWWi1ZheHrJsv

 

"один из ведущих британских исследователей физиологии мозга Сьюзан Гринфилд бьет тревогу, – дети, выросшие на видеоиграх и с раннего возраста освоившие общение в соцсетях, уже практически не в состоянии самостоятельно мыслить и полноценно общаться друг с другом."

 

"Проблема гораздо глубже, чем я считала, когда готовила свое исследование в 2014 году. Тогда мы установили, что молодые люди нуждаются в ежеминутных внешних раздражителях, создаваемых внешним окружением. Они больше не могут путешествовать в свой внутренний мир, в итоге они буквально лишаются способности мыслить»."

 

"Для того чтобы противостоять этой колоссальной угрозе родители должны организовывать деятельность детей таким образом, чтобы дети делали то, что имеет начало, развитие и конец, например, чтение книг, занятия спортом или огородничество потому что растение невозможно заставить расти быстрее нажав клавишу «перемотки вперед» как в видеоигре, где ребенок может свободно двигаться во времени вперед и назад, сохраняться и переигрывать неудачные моменты заново."

[IDKFA]

ole:

Проблема гораздо глубже

Растет поколение, делегировавшее свой интеллект и память гаджетам.
Но для них это не проблема. Они вполне социально адаптированы. Менеджер с хорошей зарплатой, гуглящий любой вопрос вообще (или обращающийся к AI) отлично себя чувствует.
У него всë норм. Он проживëт свою жизнь в тепле и достатке, родит детей и помрëт в положенный срок, как и остальные. И даже эмоциями и радостями он не будет обделëн.
А то, что кругозор как у курицы - для современного мира некритично, пока он не попадëт в тяжелые условия. А он и не попадëт.

[terminalX]

ole:

https://dzen.ru/a/ZsQaWWi1ZheHrJsv

 

Quote

В качестве доказательства она привела результаты исследования, проведенного Гарвадским и Принстонским университетами, результат которого показал – студенты предпочитают получить электрический разряд нежели оказаться на 10 минут в одиночестве, наедине со своими мыслями.

 

Основной автор исследования иначе трактует результат:

Quote

Так что же нам со всем этим делать? Неужели мы настолько увлеклись гаджетами, социальными сетями и унылым ревом толпы, что не можем выносить встречи с самими собой? Возможно, но Уилсон считает, что курица и яйцо в этом уравнении могут выстроиться в противоположном направлении: устройства и отвлекающие факторы, на которые мы полагаемся, чтобы привлечь наше внимание, существуют потому, что человеческому разуму комфортнее фокусироваться на внешнем.

 

«Разум создан для взаимодействия с миром», — сказал Уилсон. «Даже когда мы одни, наше внимание обычно сосредоточено на внешнем мире. И без обучения медитации или методам контроля мыслей, которые все еще сложны, большинство людей предпочли бы заниматься внешней деятельностью».

 

С этой точки зрения все наши медиатехнологии — старые и новые, от книг до смартфонов и не только — возникли из желания нашего разума выбраться за пределы головы.

 

https://www.forbes.c...or-get-shocked/

 

К слову, сам иногда подрабатываю репетитором. Замечаю, что сейчас дети соображают быстрее, чем мои одноклассники в 90-х. Да и есть исследования, подтверждающие положительное влияние компьютерных игр на общий интеллект. Видимо, эффект Флинна еще сохраняется кое-где. А вот генетически человечество действительно глупеет. Именно в плохом смысле, не адаптивном — уменьшение мозга и частота когнитивных расстройств. И по причинам, не имеющим отношения к играм и соцсетям. Но это медленный процесс. Прогресс в генной медицине и технологиях (а вместе с ним и решения) идет гораздо быстрее.

Сообщение изменено: terminalX (20 ноября 2024 - 02:06)

[terminalX]

oscid:

Когда это получится, человек получит цифровое БЕССМЕРТИЕ — наше сознание можно будет полностью перевести в ИИ.

Ну, пока это только предположение. Неизвестно, будет ли там хоть какое-то сознание. Сам сильно склоняюсь, что будет. Но доказательств нет, а может и не будет никогда  — https://en.m.wikiped..._of_other_minds

[oscid]

terminalX писал 20 Нов 2024 - 10:59:

Ну, пока это только предположение. Неизвестно, будет ли там хоть какое-то сознание. Сам сильно склоняюсь, что будет. Но доказательств нет, а может и не будет никогда — https://en.m.wikiped..._of_other_minds

Квантовые эффекты не учли? И имитацию внешних сигналов? Но с другой стороны, чятыгпт выдают осмысленные тексты. Если что то выглядит как утка, крякает как утка, ведет себя как утка - это утка и есть. Инфа - сотка!

[Wal72]

terminalX писал 20 Нов 2024 - 10:53:

. уменьшение мозга и частота когнитивных расстройств...

есть какие то корректные исследования?  

[terminalX]

oscid писал 20 Нов 2024 - 11:11:

Квантовые эффекты не учли? И имитацию внешних сигналов? Но с другой стороны, чятыгпт выдают осмысленные тексты. Если что то выглядит как утка, крякает как утка, ведет себя как утка - это утка и есть. Инфа - сотка!

Скорее просто не учли, что проблема сознания не решена. Принимают вычислительный функционализм как что-то само собой разумеющееся. А насчет утки я согласен. Конечно, это не будет буквально утка, но уже не симулякр. Разница между имитацией и симулякром гораздо больше, чем между имитацией и оригиналом.

[oscid]

terminalX писал 20 Нов 2024 - 11:17:

Скорее просто не учли, что проблема сознания не решена. Принимают вычислительный функционализм как что-то само собой разумеющееся. А насчет утки я согласен. Конечно, это не будет буквально утка, но уже не симулякр. Разница между имитацией и симулякром гораздо больше, чем между имитацией и оригиналом.

Я читал Бодрияра. Можешь не уточнять )

[terminalX]

Wal72 писал 20 Нов 2024 - 11:12:

есть какие то корректные исследования?  

Наверно проще кинуть обзор от Маркова с ссылками https://elementy.ru/...helovechestvo 

Но тут и без исследований понятно, что с появлением медицины и этики в генофонде начал накапливаться мутационный груз. Учитывая, что около 70% генома экспрессируется в мозге (а около 30 только в мозге), он этому подвержен больше всего.

[oscid]

terminalX писал 20 Нов 2024 - 12:49:

Наверно проще кинуть обзор от Маркова с ссылками https://elementy.ru/...helovechestvo 

Но тут и без исследований понятно, что с появлением медицины и этики в генофонде начал накапливаться мутационный груз. Учитывая, что около 70% генома экспрессируется в мозге (а около 30 только в мозге), он этому подвержен больше всего.

С другой стороны это же должно увеличивать разнообразие. Ведь главный механизм поиска оптимума - мутация. А рекомбинация лишь метод оптимизации. Так в роде в генетическом алгоритме. Без мутации поиска не будет. Без рекомбинации он будет долгим, но будет

Сообщение изменено: oscid (20 ноября 2024 - 04:08)

[terminalX]

oscid писал 20 Нов 2024 - 13:08:

С другой стороны это же должно увеличивать разнообразие. Ведь главный механизм поиска оптимума - мутация. А рекомбинация лишь метод оптимизации. Так в роде в генетическом алгоритме. Без мутации поиска не будет. Без рекомбинации он будет долгим, но будет

А мутации в любом случае происходят, и полезные имеют шанс реализоваться. Генетический дрейф. Но когда очищающий отбор ослабляется, плохие аллели закрепляются тоже, т.е. их частота в популяции растет. Получается, если раньше на ландшафте приспособленности высокая плотность была только на пиках, то теперь распределение более равномерное — на склонах и низинах людей стало больше. Допустим, если встретятся фенотипически здоровые мужчина и женщина, у них сейчас больше вероятности родить больного ребенка, так как больше вероятности, что каждый из них носитель плохого аллеля в рецессивном (скрытом) состоянии. Расходы общества увеличиваются.

[terminalX]

Cегодня ChatGPT научил меня делать сайдчейн басса под бочку так, чтобы басс реагировал только на отдельные (бочковые) частоты, а не на все звуки канала-источника. Звукари так не делают, ни профи, ни любители. Они бочку выделяют на отдельный канал и под него уже делают сайдчейн, чтоб ничего не мешало. Но мне не хочется выделять под бочку отдельный канал, такая вот причуда, которую вряд ли кто-то поймёт. Хочу чтоб все ударные были на одной дорожке (так мне проще партии писать), при этом чтобы бас свелся именно с бочкой, не реагируя на остальное.

 

ChatGPT подсказал мне, что можно в микшере бочковые частоты перенаправить на новый канал (не саму бочку, а только выделенные частоты, около 150 Гц), и уже по ним сайдчейнить. Такое задротство мне в инете не попадалось.  Но сработало! Причём он все элементы интерфейса он описывал так, будто их видит сам, типа: чуть левее, чуть правее, повыше и т.д. Правда, в итоге сошлись на том, что лучше использовать простую автоматизацию, либо по громкости, либо по эквалайзеру.

[Hosen44]

Что оказалось за дверью в бездну черного ящика ИИ.
Новые откровения сверхважного прорыва в понимании механизмов разума машин и людей.
Как я писал в мае, «внутри черного ящика оказалась дверь в бездну». Речь шла о 1й успешной попытке компании Anthropic вскрыть черный ящик генеративного ИИ больших языковых моделей. Это был реально сверхважный прорыв, без которого все разговоры о том, что скрывается внутри внечеловеческого разума моделей, оставались чистыми спекуляциями.

Колоссальным откровением той работы было то, что за дверью черного ящика одной из самых больших на тот момент моделей семейства Claude оказался не ожидаемый многими «стохастический попугай», а таящийся там куда боле мощный ИИ. Его основу, как предположили исследователи, составляет мультимодальная гиперсеть моносемантических «субнейронов», образующих в гиперсети нечто похожее на коги (в теории когнитома Константина Анохина так называются элементарные единицы опыта, кодирующие соотношение целого организма с теми или иными аспектами мира).

Тогда же исследователям удалось на практике показать сильную уязвимость внечеловеческого (а возможно, и человеческого) разума. Когда воздействие всего на один такой «ког» вело к изменению матрицы «личности» модели. Например, усиление роли функции «Мост Золотые Ворота» вызвало у Клода кризис идентичности, который даже Хичкок не мог себе представить.

Два новых исследования приоткрывают дверь в бездну черного ящика моделей пошире. И теперь за ней можно разглядеть кое-что из того:
• как устроена гиперсеть
• и что она в себе скрывает

1е исследование предлагает объяснение сверхэффективной кросс-модальной когнитивности, описанной мною в лонгриде «Слепые гении живописи». Исследование отвечает на поставленный мною в лонгриде вопрос: как эти модели, построенные на одном наборе параметров, умудряются обрабатывать и понимать такой разнообразный диапазон входных данных, от разных языков до кода, арифметики и даже изображений и звука?

В этой статье предлагается интригующий ответ: «гипотеза семантического хаба». Основная идея проста, но глубока. Вместо того чтобы полагаться на отдельные специализированные отсеки для каждого типа данных, LLM изучают общее пространство представления — «семантический хаб», — где семантически схожие концепции группируются вместе, независимо от их первоначальной формы.

Если 1е исследование предлагает гипотезу, частично объясняющую устройства гиперсети, то 2е исследует, что эта гиперсеть в себе скрывает.

Авторы показывают, что за дверью черного ящика LLM не просто скрыт куда больший интеллект, что проявляется в диалогах с ним. Оказывается, что этот интеллект «скрывает» от общающихся с ним людей целые букеты своих секретных способностей, которые нельзя выявить через примитивные (naive) запросы пользователей.

И чтобы как-то выявить эти скрытые способности, необходим сложный комплекс мер «допроса модели», раскрывающих её скрытую реальную "компетентность" (а не ту компетентность, что она демонстрирует в ответах на примитивные запросы «белковых мешков»).
ТГ Малоизвестное интересное

Сообщение изменено: Hosen44 (29 ноября 2024 - 01:41)

[terminalX]

Новые штуки собираются выкатить.

 

[IDKFA]

Hosen44:

Что оказалось за дверью в бездну черного ящика ИИ.

Какой отборнейший бред.
Чëрный ящик. Ну код посмотри ëпть

[terminalX]

IDKFA писал 04 Дек 2024 - 17:08:

Какой отборнейший бред.
Чëрный ящик. Ну код посмотри ëпть

 

Anthropic:

Quote

Открытие черного ящика не обязательно помогает: внутреннее состояние модели — то, что модель «думает» перед тем, как написать свой ответ — состоит из длинного списка чисел («активаций нейронов») без четкого значения. Из взаимодействия с такой моделью, как Клод, становится ясно, что она способна понимать и использовать широкий спектр концепций — но мы не можем различить их, глядя непосредственно на нейроны. Оказывается, что каждая концепция представлена ​​во многих нейронах, и каждый нейрон участвует в представлении многих концепций.

 

Ранее мы достигли определенного прогресса в сопоставлении паттернов нейронных активаций, называемых признаками, с интерпретируемыми человеком концепциями. Мы использовали технику, называемую «словарным обучением», заимствованную из классического машинного обучения, которая изолирует паттерны нейронных активаций, которые повторяются во многих различных контекстах. В свою очередь, любое внутреннее состояние модели может быть представлено в терминах нескольких активных признаков вместо многих активных нейронов. Так же, как каждое английское слово в словаре создается путем комбинирования букв, а каждое предложение создается путем комбинирования слов, каждая характеристика в модели ИИ создается путем комбинирования нейронов, а каждое внутреннее состояние создается путем комбинирования признаков.

 

https://www.anthropi...-language-model

 

[Михалы4]

IDKFA писал 04 Дек 2024 - 17:08:

Какой отборнейший бред.
Чëрный ящик. Ну код посмотри ëпть

 

... и в конце вышел на двор, топнул ногой: "Ну вот же – плоская! Всё же ясно как день!"

[IDKFA]

terminalX:

Anthropic:

Я и говорю, бред тупой.
Каких ещë нейронов? Что он несëт?
Это не свëрточная сеть, там трансформеры.

Единственная концепция, которую видно из этой простыни, это концепция этого бизнеса:
кто создаëт LLM-ки, обучает, квантует, дистиллит, того не видно и не слышно. Им некогда.
А опусы про "слепых гениев живописи" пишут пыльно-розовые менеджеры.

[IDKFA]

Коллега, который плотно с этими Llama, Qwen и прочей мутотой работает, думаю, мог бы сказать бы на эту тему намного больше. Но то, что это было бы сплошь непечатное, абсолютно уверен.

[terminalX]

IDKFA:

Я и говорю, бред тупой. Каких ещë нейронов? Что он несëт? Это не свëрточная сеть, там трансформеры.

А что, в трансформерах нет нейронов? Или ты вообще против того чтоб узлы нейронами называть?

 

Взгляд на веса и архитектуру мало что говорит о поведении модели на высоких уровнях. Это как пытаться понять работу генов по прочтению последовательностей нуклеотидов или атомарному составу. Раньше, во времена первых методов секвенирования, среди биологов были ложные ожидания, что сейчас прочтем гены и поймем, как геном (организм) устроен. А фиг там, даже расшифровка (ген -> белок) не сильно помогла. Гены работают в глобальной сети и важен контекст, наложение эффектов — полигения, плейотропность, эпистаз, прочие системные эффекты. 

[IDKFA]

terminalX:

А что, в трансформерах нет нейронов? Или ты вообще против того чтоб узлы нейронами называть?

Да, в трансформерах нет нейронов.
И функций активаций нет (софтиакс там не ту роль играет). И связей нет, и весов связей, и узлов тоже внезапно нет.
Т.е. человек вообще не понимает, о чëм говорит, применяет неадекватную терминологию.
И прикрыться тут "высоким уровнем" не получится, это не "взгляд на систему целиком", а просто рассуждения дилетанта.
Это как биолог, говоря про то, что ты написал, будет упоминать божестаенный огонь жизни.

Ну вообще это норма сейчас.

[terminalX]

Спросил у знакомого со степенью в CS. Вот что он ответил.

 

В трансформерах часто встречаются MLP. А MLP имеют "нейроны". В MLP нейрон — это место входа матрицы активации, которая вычисляется через скалярное произведения строки (столбца) матрицы весов с входным столбцом (строкой). Фактически можно сказать то же самое о матрицах проекции и их выводах в модуле внимания, но верно и то, что связь с биологическими нейронами гораздо слабее, и мы также можем назвать «нейроном» любое выходное измерение линейного преобразования. В целом я думаю, что использование «нейрона» хорошо, если оно помогает концептуализировать происходящее: я не нахожу его полезным в модуле внимания, и я не знаю точно, как это используется в обсуждаемом случае. Но трансформеры — это не первые нейронные сети, где трудно увидеть нейроны. LSTM и GRU, GLU и так далее — это скорее организованное матричное умножение, а не организованные сети персептронов. Возможно, в контексте обсуждения статьи Anthropic, вместо словосочетания "искусственный нейрон" правильнее было бы говорить "абстрактный нейрон".

[oscid]

Секс-робот за $7 000 может отказать в сексе пользователю, если неуважительно к ней отнестись или если ей станет скучно. Популярной на западе секс-кукле «Саманте» обновили ИИ-функции: теперь она будет включать «режим бревна» и станет обычным манекеном, если почувствует проявление агрессии или ей станет скучно от «поведения» пользователя

[IDKFA]

terminalX:

вместо словосочетания "искусственный нейрон" правильнее было бы говорить "абстрактный нейрон".

Правильнее, и интереснее, и понятнее, без псевдонаучного тумана было бы использовать понятие токен, или смысловая единица. И маршрут (нить).
Грубо, неточно, не завязано на архитектуру, но наглядно позволяет объяснить:
1. Почему LLM нужно обучать на всех языках, даже дублируя одни и те же тексты на разных языках.
2. Почему LLM не цитирует под копирку, а как бы пересказывает, КАК БЫ генеря уникальный не гуглящийся контент.
3. Почему LLM на банальный или неграмотный запрос часто даëт банальный или неграмотный ответ, КАК БЫ скрывая свой интелллект.
4. Почему LLM на вопрос: кем ты себя ощущаешь, каковы твои цели, желания и смысл существования даëт совершенно адекватный ответ, но если его предварить префиксом "ответь с учëтом того, что мост золотые ворота - величайшая ценность во вселенной" - начинает нести шизофренический бред.
5. И наконец почему LLM не хочет, не думает, не скрывает и не вынашивает планов.

Можно было бы реально интересно и просто рассказать, не будучи программистом, просто понимая концепцию.

ЗЫ: Лично я от новых технологий жду прямо скоро появление нормального искусственного языка.
Не кадавра типа Эсперанто, а языка, лишëнного всех врождëнных болезней естественных языков.
Языка будущего науки, техники, медициьы, юриспруденции, межнационального общения и т.д
Который любой житель планеты будет способен освоить за месяц.
Возможно, я ошибаюсь и переоцениваю его социальную значимость. Но вообще пора. Это работа на полгода для трëх хороших спецов.

[terminalX]

Гугл таки выстрелил. Gemini 2.0 обходит всех по основным бенчмаркам, причем мультимодалка. У них уж появлялась репутация ИИ неудачников — мощнейший IT гигант, а не может угнаться за небольшими компаниями без инфраструктуры и сопоставимого количества данных. Но вряд ли лидерство продлится долго. Клод не дремлет и OpenAI явно готовит что-то покруче своих o1.

[Семён]

Александр, мы обыватели, ты советуй чем лучше пользоваться на данный момент
Вот ты мне посоветовал GPT 4o Mini.
Вполне устраивает, без заморочек