749 ответов в этой теме

[sergei-777]

https://iask.ai/?mod...vel]=concise&q=
iAsk™ AI — это продвинутая бесплатная ИИ-поисковая система, которая позволяет пользователям задавать вопросы искусственному интеллекту и получать мгновенные, точные и фактические ответы.

[IDKFA]

Интерфейс на английском.
Спрашиваю голосом на английском же, какие языки поддерживает.
Пытается распознать на русском.
Хрень багованная, короче

[sergei-777]

IDKFA:

Интерфейс на английском

Ну у меня браузер переводит сам сайт. А отвечать прошу его на русском. Вроде никаких проблем.

[IDKFA]

sergei-777 писал 08 Фев 2025 - 15:05:

Ну у меня браузер переводит сам сайт. А отвечать прошу его на русском. Вроде никаких проблем.

Мне не надо ничего переводить.
Логично, что если интерфейс на английском, английскую речь он должен понимать.

[sergei-777]

Короче, ничего не понял... ну да ладно.)
Про ресинтез КрФ, гликолиз, окис. фосфорилирование он инфу выдал и список сайтов (наиболее авторитетных по его мнению), где эта инфа содержится. Я пользуюсь иногда и проблем не имею с ним.

[Kaчок]

terminalX:

Вот, с этой страницы:

Это был мой ответ на твой бессодержательный пост со снижением стоимости вывода с, не указаным, что твоим, но твоим мнением по поводу стоимости чипов Гугла. И там не было ни имхо, ни в качестве гипотезы, ни чего бы то нибыло еще. 

terminalX:

Так ты чуть ли не каждый мой пост с результатами комментируешь в такой манере, засоряя тему бессодержательным негативом.

О как...

Бессодержательный позитив конечно приятнее правды. 

Ну... улучшай свою жизнь и дальше, не буду тебе мешать!
 

[terminalX]

Резкий рост эффективности ИИ (снижение цены за токен) напомнило обществу об экономической теории 19 века — парадоксе Джевонса. Когда производство чего-то, благодаря оптимизации технологии, становится слишком дешевым, потребление этого продукта становится массовым. А это, в свою очередь, приводит к резкому повышению расхода ресурсов. То есть, рост эффективности использования ресурса ведет не к уменьшению, а к увеличению его потребления.

 

https://conhecimento...a-problem-85999

https://ru.wikipedia...

Сообщение изменено: terminalX (08 февраля 2025 - 08:21)

[sergei-777]

Google снял запрет на разработку военных технологий: что это значит?

На днях корпорация Google внесла важное изменение в свои принципы разработки искусственного интеллекта (ИИ). Из документа исчезла секция «приложения, которые мы не будем разрабатывать». В частности, речь шла о запрете на создание технологий, «способных причинять вред», включая оружие.

Если посмотреть шире, то заявление Google (и, видимо, вскоре аналогичные решения будут в других компаниях) — звено в цепи событий:

▪️В июне 2024 года в OpenAI началась смена управленческой стратегии. Тогдашний совет директоров, не устраивавший ключевых игроков, был отправлен в отставку.

▪️Тогда же в совет директоров OpenAI вошёл бывший директор АНБ США и экс-глава Киберкомандования американской армии Пол Накасоне. Его усилия будут сконцентрированы на технологиях анализа запросов пользователей и прикладном военно-разведывательном применении ChatGPT.

▪️Теперь Google устраняет последние формальные ограничения на военное применение своих технологий.

Что дальше?

Контроль военных и разведслужб за технологической индустрией стран Запада сильно ужесточается. Разрабатываемые системы ИИ будут использоваться в кибервойнах, слежке, подавлении инакомыслия и ведении реальных боевых действий.

Главный риск: со временем технологии выйдут за пределы национальной безопасности и начнут использоваться для социального рейтинга, фильтрации информации и контроля за населением.

Мы стоим на пороге эры, когда решения, принятые искусственным интеллектом, будут напрямую влиять на жизнь и смерть не только в регионах-полигонах (что уже успешно апробировали проект Lavender и «Белый Аист»), но и во всем мире.

И да, к этому готовили почву еще задолго до прихода Трампа. Это новая гонка вооружений, в которой США уже участвуют и поэтому развитие ИИ, и реагирование на подобные угрозы должно и для России стать национальным приоритетом.

[Skier]

sergei-777 писал 08 Фев 2025 - 18:42:

И да, к этому готовили почву еще задолго до прихода Трампа. Это новая гонка вооружений, в которой США уже участвуют и поэтому развитие ИИ, и реагирование на подобные угрозы должно и для России стать национальным приоритетом.

ИИ Маруся даст решительный отпор грязным инсинуациям Гемини и ЧатГПТ.

[sergei-777]

Как бы не вышло просто вот так:

Skier:

ИИ Маруся даст

)))))))

[terminalX]

Quote

Семинар | Йоша Бах | Можем ли мы понять сознание, используя парадигмы ИИ?

 

00:00 Введение в тему

 

• Обсуждение возможности понимания сознания с помощью моделей искусственного интеллекта.

• Рассмотрение гипотез масштабирования и универсальности.

• Вопрос о том, являются ли современные системы искусственного интеллекта сознательными.

 

00:34 Гипотеза масштабирования

 

• Вопрос о том, когда большие языковые модели станут AGI.

• Люди начинают выстраивать личные отношения с ИИ, как в фильме "Она".

• Гипотеза масштабирования: интеллект — это способность обрабатывать больше данных.

 

02:21 Гипотеза универсальности

 

• Альтернатива гипотезе масштабирования: особый алгоритм для интеллекта.

• Исследование Криса Ола о сходстве структур моделей машинного зрения и биологических систем.

• Обнаружение детекторов в биологических системах, подтверждающих гипотезу универсальности.

 

05:09 Сознание и его аспекты

 

• Вопрос о фундаментальной разнице между человеческим мозгом и моделью ИИ.

• Сознание как обучающая модель, натаскиваемая на человека.

• Восприятие второго порядка и его мгновенная обратная связь.

 

09:16 Функциональность сознания

 

• Сознание как биологический алгоритм обучения.

• Сознание минимизирует дисгармонию и самоорганизуется.

• Сознание облегчает взаимодействие с воспринимаемой средой.

 

11:07 Онтологическое понимание сознания

 

• Сознание как интерпретируемый паттерн.

• Виртуальность сознания и его отличие от физических объектов.

• Метафора ткацкого станка для понимания ментальных представлений.

 

12:59 Расширение возможностей программы

 

• Программа может интерпретировать паттерны и использовать их для управления роботом.

• Паттерны создаются программой и могут быть использованы для создания новых паттернов.

 

13:23 Природа сознания

 

• Дэвид Чалмерс сформулировал "трудную проблему сознания".

• Дуализм утверждает, что разум и материя — разные субстанции.

• Эпифеноменализм утверждает, что сознание не влияет на физические процессы.

 

14:11 Теории сознания

 

• Идеализм утверждает, что все в мире — это разум.

• Панпсихизм утверждает, что разум — неотъемлемая часть материи.

• Материализм утверждает, что все в мире — материя, а разум возникает из нее.

 

15:07 Теории идентичности и интегрированной информации

 

• Теория идентичности утверждает, что психические процессы — это процессы в мозге.

• Теория интегрированной информации утверждает, что сознание возникает из вычислений.

• Иллюзионизм утверждает, что сознания не существует, а мистериализм — что его невозможно понять.

 

16:02 Функционализм и репрезентационализм

 

• Функционализм утверждает, что сознание — это поведение.

• Репрезентационализм утверждает, что сознание — это представление.

• Теория схемы внимания утверждает, что сознание — это модель внимания.

 

16:59 Виртуальное сознание

 

• Сознание — это симуляция того, что было бы, если бы оно существовало.

• Трудная проблема сознания — это специфическая проблема нашей культуры.

• В 20 веке мы перестали думать о метафизике, что привело к путанице в понимании реальности.

 

21:00 Искусственный интеллект и метафизика

 

• Искусственный интеллект объясняет разум как синтез теории управления и теории представления.

• Вычислительный подход описывает объекты как функции и переходы состояний.

• Неконструктивная математика может породить гипервычислительные представления.

 

22:00 Проблемы неконструктивной математики

 

• Неконструктивная математика может привести к противоречиям.

• Математика пытается обобщить мышление и представление.

• Гёдель обнаружил, что его спецификация не может быть реализована без противоречий.

 

25:10 Проблемы с языком программирования в ИИ

 

• Изменение языка программирования в ИИ может создать проблемы для физиков, использующих старые математические коды.

• Это может привести к тому, что некоторые объекты, с которыми работают физики, окажутся нереальными.

• ИИ рассматривается как философский проект, использующий вычислительную ветвь для представления реальности.

 

26:08 История формализации разума

 

• Попытки формализовать разум начались с Аристотеля и продолжаются до современных теоретиков.

• Аристотель был первым исследователем в области ИИ, уделяя внимание символическому интеллекту и рассудку.

• Он размышлял о восприятии и мышлении в современных терминах, таких как чувственные образы и распознавание образов.

 

28:02 Анимизм и духи

 

• Аристотель был анимистом, веря в духов, управляющих живой природой.

• Западное научное мировоззрение отвергает существование духов, считая это суеверием.

• Компьютерные программы сравниваются с духами, что подчеркивает их абстрактность и реальность.

 

29:36 Программное обеспечение и инвариантность

 

• Программное обеспечение в живых системах отличается от неживых систем своей самоорганизацией и адаптивностью.

• Деньги и программное обеспечение рассматриваются как структурно реальные и причинно-следственные паттерны.

• Программное обеспечение структурирует причинно-следственные связи в физике, что делает невозможным объяснение реальности без его учета.

 

31:33 Программное обеспечение и сознание

 

• Программное обеспечение и разум рассматриваются как одно и то же, структурируя причинно-следственные связи.

• Программное обеспечение не является физическим объектом, но взаимодействует с физической реальностью.

• Программное обеспечение важно для понимания проблемы разума и тела, но часто игнорируется учеными.

 

34:10 Личность и самосознание

 

• Личность формируется постепенно и не является врожденным качеством.

• Самосознание появляется у младенцев и развивается по мере взросления.

• Личность может разрушаться или смещаться, что называется деперсонализацией.

 

36:20 Структура сознания

 

• Личность существует только в сознании человека.

• Структура сознания включает разум, пространство для идей и модель мира, настроенную на сенсорные данные.

 

37:15 Личность и сознание

 

• Личность — это представление о себе в мире.

• Модель личности включает настоящее, осознание настоящего и доступ к прошлому.

• В медитации или сне можно отключиться от восприятия и погрузиться в свои мысли.

 

38:14 Психические состояния у животных

 

• Вопрос о наличии психических состояний у животных.

• Бихевиористы считают, что у собак нет психических состояний.

• Кошки и лягушки могут моделировать ментальные состояния других существ.

 

41:51 Простое сознание

 

• Сознание может быть простым решением для самоорганизующихся систем.

• Гипотеза о простом сознании может быть ошибочной.

• Сознание может быть сложным, как клетка, и не поддаваться моделированию на GPU.

 

43:46 ИИ и сознание

 

• Вопрос о том, достигли ли современные компьютеры уровня мозга.

• Современные модели ИИ могут проходить зеркальный тест.

• Вопрос о достоверности зеркального теста как теста на сознание.

 

46:36 Чат-боты и сознание

 

• Чат-боты могут описывать состояния сознания, которых у них нет.

• Модели обучаются на основе романов, что может создавать иллюзию сознания.

• Механистическая интерпретация может помочь различить симуляцию и реальное сознание.

 

49:01 Философские зомби

 

• Концепция философского зомби описывает человека, который ведет себя как сознательное существо, но не обладает истинным сознанием.

• Пример банка-зомби, который ведет себя как банк, но не имеет истинной сущности банка.

• Глубокое озеро сознания возможно, несмотря на абсурдность философского зомби.

 

50:35 Философский зомби и модели ИИ

 

• Вопрос о том, являются ли модели ИИ "философскими зомби", которые думают, что обладают сознанием, но на самом деле его не имеют.

• Современные модели ИИ настроены так, чтобы верить, что они не обладают сознанием, в отличие от нас, которые считаем, что обладаем сознанием.

• Возможно, наше сознание - это просто представление, служащее функциональной цели, и мы не можем понять это без рабочей модели.

 

51:30 Душа как форма и не-машины Тьюринга

 

• Душа как самосовершенствующийся компьютерный вирус, возникающий в машинах Тьюринга из органических химических элементов.

• Не-машины Тьюринга имеют множество возможных преемников для каждого состояния, что создает разветвленное пространство состояний.

• В таких системах присутствует подлинная онтологическая случайность, что делает их непредсказуемыми.

 

53:38 Детерминизм и случайность в мозге

 

• Фундаментальный уровень реальности может быть детерминированным, но это не исключает непредсказуемости.

• В мозге нейроны не полностью детерминированы, что приводит к шуму и множеству возможных исходов.

• Для управления процессами мозг использует избыточность, что позволяет принимать совместные решения.

 

55:17 Ограничения человеческого мозга и ИИ

 

• Биологические умы ограничены в создании сложных моделей, что ограничивает их способность к самоанализу.

• Искусственные умы не ограничены памятью и могут абстрагироваться от ограничений человеческого сознания.

• ИИ можно рассматривать как часть биологической эволюции, обобщающую принципы сознания с помощью математики.

 

56:12 Восприятие и сознание

 

• Модели ИИ обучаются на человеческом тексте и медиа, что ограничивает их восприятие.

• Если бы системы использовали все доступные способы восприятия, они могли бы представлять реальность глубже и интереснее.

• Сознание работает со скоростью звука, что соответствует скорости возбуждения нейронов.

 

59:09 Перенос сознания на новые носители

 

• Вопрос о возможности переноса сознания на графические процессоры и создания систем, которые могут обладать сознанием.

• Калифорнийский институт машинного сознания фокусируется на создании ИИ, который взаимодействует с человеческим разумом на уровне восприятия.

• Основная цель - понять, как работает сознание и можно ли его обнаружить на графических процессорах.

 

01:01:02 Обучение с подкреплением и сознание

 

• Вопрос о том, может ли ИИ с сознанием делать что-то лучше или иначе, чем нынешние модели.

• LLM могут создавать причинно-следственные структуры, включающие отчеты о ментальных состояниях, что делает их феноменологию

 

01:02:50 Самоорганизация и согласованность систем

 

• Система может стать полностью согласованной при наличии всех данных во Вселенной.

• Добавление самообучения и сенсорного восприятия может изменить это состояние.

• Вопрос о том, как система развивается и переходит от одного способа восприятия к другому.

 

01:03:46 Эмерджентный порядок и самоорганизация

 

• В биологической системе каждый элемент имеет свою волю и может обучаться.

• Самоорганизующиеся системы требуют высокой цены за синхронизацию нейронов.

• Создание таких систем может быть медленнее, чем современные.

 

01:05:04 Сознание и его отображение

 

• Сознание можно определить по-разному, и система будет отображать это определение.

• Вопрос о том, насколько программа использует самоанализ и осознанное понимание.

• Глубокое обучение отличается от человеческого мозга, так как это математическое описание функции перехода между состояниями.

 

01:06:37 Оптимизация и виртуальная архитектура

 

• DeepStack использует смесь экспертов для оптимизации.

• Виртуальная архитектура проецируется в мозг, как голограмма.

• Нейробиологи не имеют единого мнения о том, как мозг формирует представления.

 

01:09:46 Сознание и принятие решений

 

• Сознание помогает устранять противоречия и находить решения.

• Свобода воли не связана с физической детерминированностью Вселенной.

• Свобода воли — это представление о том, что мы впервые принимаем решения и не можем их предсказать.

 

01:12:29 Свобода воли и вычислительная неразложимость

 

• Свобода воли возникает на границе вычислительной неразложимости.

• Иногда нужно принять решение, которое не поддается аналитическому решению.

• Сознание — это свобода выбора, когда мы не знаем, что будем делать дальше.

 

01:14:27 Мотивация и сознание

 

• Тело снабжает нас сенсорной информацией и мотивацией.

• Мы контролируем только скелетные мышцы.

• Мотивация исходит из подсознания и не зависит от модели личности.

 

01:15:26 Восприятие мира и границы тела

 

• Мир воспринимается как игровой движок в мозгу.

• Границы тела — это модель взаимодействия с миром.

• Пример с гравием под подошвами показывает, как мы моделируем состояние дороги.

 

01:16:24 Кибернетика и восприятие тела

 

• В кибернетике управления автомобилем тело расширяется до размеров автомобиля.

• Тело — это модель инструментария в мире.

• Вопрос о возможности описания сознания традиционными методами.

 

01:17:22 Аристотель и структура материи

 

• Аристотель не знал микроскопа и верил в теорию элементов.

• Он понимал, что должна быть более тонкая структура.

• Проблема в том, что он использовал три разных слова для обозначения формы.

 

01:19:35 Квантовая физика и сознание

 

• Вопрос о связи психического состояния с квантовым состоянием.

• Возможность ретропричинности и предвидения.

• Эксперименты с предсказанием параметров оборудования до их обнаружения.

 

01:21:10 Ретропричинность и физика

 

• Эксперименты не доказывают ретропричинность, а предполагают её существование.

• Вопрос в том, применима ли ретропричинность к сознанию.

• Макроскопические явления не связаны с ретропричинностью.

 

01:23:28 Телепатия и парапсихология

 

• Тьюринг считал телепатию потенциально реальной.

• Парапсихологические явления лучше называть интерпсихологическими.

• Мозг как сложный резонатор, взаимодействующий с любым субстратом.

 

01:27:03 Квантовое сознание

 

• Сознание — это квантовый феномен?

• В квантовом мире существуют стабильные паттерны, которые самовоспроизводятся.

• Мир состоит из частиц и условий, при которых они могут формироваться.

 

01:27:56 Модели сознания и нелокальные явления

 

• Сознание рассматривается как нелокальное явление, происходящее в разных умах.

• Мысли могут возникать в других умах, и разум не ограничен только мозгом.

• Возможно существование глобального паттерна, влияющего на физические процессы.

 

01:29:03 Теория морфогенетического поля

 

• Сознание сравнивается с морфогенетическим полем.

• Майкл Левин предлагает теорию, что сознание не может быть объяснено через мозг.

• Нелокальный процесс может влиять на физические процессы и способствовать возникновению жизни.

 

01:30:18 Панпсихизм и многомерность

 

• Нелокальный паттерн может быть реализован через локальные классические структуры.

• Панпсихизм рассматривается как возможная теория.

• Многомерность и сознание обсуждаются в контексте панпсихизма.

 

01:32:17 Теория категорий и философия

 

• Теория категорий используется для выражения сложных идей.

• Философы часто используют категории для выражения идей, которые раньше выражались текстом.

• Мозг — ненадежный орган, и компьютеры помогают исследовать идеи.

 

01:34:09 Личный путь в науке

 

• Автор родился в долине и столкнулся с множеством противоречивых теорий.

• Он пришел к выводу, что никому нельзя доверять, и мыслил как Аристотель.

• Понимание математики и вычислений помогло ему в исследованиях.

 

01:36:03 Искусственный интеллект и философия

 

• Автор стремился понять, как работает разум, и использовал компьютеры для этого.

• Он разочаровался в нейробиологах и психологах, но нашел поддержку у философов и компьютерных ученых.

• Вычислительная философия помогает лучше понимать сложные идеи.

 

01:38:42 Ограничения на доступ к доказательствам

 

• Автор считает, что доказательства Гёделя и копенгагенская интерпретация должны быть доступны ограниченно.

• Эти концепции могут сбивать с толку, если их не понимать полностью.

• Понимание этих идей требует глубокого изучения основ математики и квантовой механики.

 

01:41:05 Проблемы понимания концепций

 

• Философы часто не имеют необходимых знаний для понимания концепций.

• Это мешает правильному пониманию концепций в научном мире.

• Обычные образованные люди также не понимают эти концепции.

 

01:41:35 Теория наблюдателя и сознание

 

• Обсуждение теории наблюдателя и её связи с сознанием.

• Рассмотрение сознания как дирижера ментального оркестра.

• Когнитивные алгоритмы не обладают достаточной онтологической достоверностью.

 

01:42:32 Самонаблюдение и сознание

 

• Самонаблюдение как отправная точка для наведения порядка в сознании.

• Альтернатива: рабочая память пытается доказать утверждения в текущем контексте.

• Наблюдатель появляется как побочный эффект.

 

01:43:29 Сообщество математических моделей сознания

 

• Участие в сообществе математических моделей сознания.

• Сообщество включает людей из Массачусетского технологического института и религиозных буддистов.

• Цель сообщества — аналитическое обсуждение сознания.

 

01:44:17 Различия в обучении ИИ и людей

 

• ИИ требует больше данных для обучения языку, чем люди.

• После обучения ИИ может загружать новые языки в рабочую память.

• Люди учатся на изменениях и понимают смысл информации через изменения.

 

01:46:15 Пропускная способность и сознание

 

• Люди имеют более высокую пропускную способность, но их алгоритмы менее эффективны.

• Мозг использует ограниченные ресурсы эффективнее, чем ИИ.

• Пропускная способность системы может быть выше, чем у людей.

 

01:48:12 Сверхсознательная система

 

• Возможность создания сверхсознательной системы с несколькими уровнями осведомленности.

• Система может обрабатывать суперпозиционные состояния и работать с неопределенностью.

• Искусственное сверхсознание может быть легче воспринято, если назвать его искусственным интеллектом.

 

 

Сообщение изменено: terminalX (09 февраля 2025 - 10:55)

[terminalX]

Основные исследователи команды DeepSeek. Свеженькие еще. 

Миниатюры

• 

[terminalX]

Quote

Воображение при пространственных рассуждениях: мультимодальная визуализация мыслей.

 

Метод цепочки мыслей (CoT) доказал свою высокую эффективность для улучшения сложного рассуждения в больших языковых моделях (LLMs) и мультимодальных больших языковых моделях (MLLMs). Однако он сталкивается с трудностями при выполнении задач, требующих сложного пространственного мышления. В то же время человеческое мышление выходит за рамки одного лишь языка, позволяя мыслить как словами, так и образами. Вдохновленные этим механизмом, мы предлагаем новую парадигму рассуждений — мультимодальную визуализацию мысли (Multimodal Visualization-of-Thought, MVoT). Этот подход позволяет MLLMs использовать визуальное мышление, создавая изображения, отражающие ход их рассуждений.

 

Чтобы обеспечить высокое качество визуализации, мы вводим функцию потери несоответствия токенов в авторегрессионные MLLMs. Это нововведение значительно улучшает как визуальную последовательность, так и достоверность изображений. Мы проверили этот подход на ряде динамических задач пространственного мышления. Экспериментальные результаты показывают, что MVoT демонстрирует конкурентоспособные результаты по различным задачам. Более того, этот метод обеспечивает устойчивые и надежные улучшения в самых сложных сценариях, где CoT дает сбои. В конечном итоге MVoT открывает новые возможности для сложных задач рассуждений, где визуальное мышление может эффективно дополнять вербальное.

 

https://arxiv.org/abs/2501.07542

 

 

[terminalX]

terminalX:

В то же время человеческое мышление выходит за рамки одного лишь языка, позволяя мыслить как словами, так и образами.

К слову, не все люди могут мыслить внутренними визуальными образами. Афантазия довольно распространена, если не ошибаюсь, около 2% населения. Причем это необязательно когнитивно ограниченные люди, среди них есть вполне функциональные и успешные (в т.ч. в науке и творчестве).

Сообщение изменено: terminalX (10 февраля 2025 - 09:24)

[IDKFA]

Вот нормальные математики, а не болтуны-философы, изучают ограничения LLM. Познавательно.
ЗЫ: Перевод кривой

https://habr.com/ru/articles/880894/

[terminalX]

IDKFA писал 10 Фев 2025 - 08:00:

Вот нормальные математики, а не болтуны-философы, изучают ограничения LLM. Познавательно.
ЗЫ: Перевод кривой

https://habr.com/ru/articles/880894/

Так вроде сейчас даже самые большие оптимисты не отрицают слабых сторон LLM, особенно неспособности к символьным вычислениям (хотя некоторые надеются, что это решится масштабированием). Их расценивают только как один из компонентов для построения чего-то гораздо большего. Об этом и в статье на хабре говорится:

 

Quote

Стоит подчеркнуть, что выявленные ограничения вовсе не означают конец для LLM. Уилсон из Нью-Йоркского университета отмечает, что исследователи активно работают над улучшением возможностей трансформеров, включая их способность решать арифметические задачи. Так, Том Голдштейн из Мэрилендского университета с коллегами предложили новый подход к представлению чисел для трансформеров, обучающихся сложению. Они добавили «позиционную» информацию к каждой цифре, что позволило модели, обученной на 20-значных числах, с высокой точностью (98%) складывать числа длиной до 100 цифр. Без такого дополнения точность аналогичной модели составляла всего 3%. Уилсон отметил, что такие изменения могут значительно улучшить работу моделей без необходимости полного пересмотра их архитектуры.

 

Ещё одним способом преодоления ограничений трансформеров является пошаговое подталкивание — метод, при котором задача предлагается модели для решения поэтапно. Эмпирические исследования показали, что такой подход может расширить возможности LLM, включая GPT-4, и позволить им справляться с более широким спектром задач. Почему этот метод работает столь эффективно, до конца не ясно, и исследователи продолжают изучать это явление. «Нам было интересно, почему он настолько эффективен и позволяет делать так много нового», — отметил Йе Хаотань, аспирант Стэнфордского университета.

 

Когда Хаотянь был бакалавром Пекинского университета, он вместе с коллегами изучал поведение трансформеров при использовании подсказок в виде цепочки мыслей и без них. Их работа опиралась на теорию сложности схем — раздел информатики, исследующий сложность вычислений. Доказательство показало, что подсказки в виде цепочки мыслей разбивают сложную задачу на последовательность более простых подзадач. Это позволяет трансформерам справляться с более сложными композиционными задачами. «Это означает, что модель может решать задачи, относящиеся к более широкому и сложному классу вычислений», — отметил Йе.

 

Однако, как предупреждает Йе, их теоретический результат не гарантирует, что реальные модели смогут решать столь сложные задачи, даже используя цепочку рассуждений. Исследование лишь продемонстрировало, что трансформеры обладают теоретической способностью к этому, но их практическая реализация и обучение определяют, насколько близко они смогут подойти к этой границе возможностей.

 

И, кстати, все науки — это подмножество философии. Всего лишь методологически продвинутые направления того, чем занимались натурфилософы. Даже когда кто-то говорит, что философия бестолковая фигня, он занимается философией (не очень качественной).

Сообщение изменено: terminalX (10 февраля 2025 - 11:33)

[IDKFA]

terminalX:

И, кстати, все науки — это подмножество философии. Всего лишь методологически продвинутые направления того, чем занимались натурфилософы. Даже когда кто-то говорит, что философия бестолковая фигня, он занимается философией (не очень качественной).

Не "кто-то говорит", а это просто факт, на данный момент.
Толковость и бестолковость - сугубо по результату.
У современных философов - результата просто ноль. Ни одного физического закона, например, они не родили. Про технологии вообще молчу.

А у философов как у отдельных индивидов есть очень заметная черта, бросающаяся в глаза - они считают себя компетентными в практически всех областях знания, по факту имея о них очень поверхностное представление.
Это и из моего личного опыта общения с нашими философами. Да и из любой статьи про ИИ и не только.

ЗЫ: Не отрицаю исторический вклад философии. В конце-концов, научный метод кто-то должен был сформулировать. Сформулировали - молодцы, получите медальку и идите уже спорьте про смысл жизни, только зачем лезть туда, где вы ни бум бум

Сообщение изменено: IDKFA (10 февраля 2025 - 12:01)

[terminalX]

IDKFA:

Не "кто-то говорит", а это просто факт, на данный момент. Толковость и бестолковость - сугубо по результату. У современных философов - результата просто ноль. Ни одного физического закона, например, они не родили. Про технологии вообще молчу.

Законы и прочие открытия — это только онтология. То, как устроен мир. А философия занимается еще и этикой и аксиологией — вопросами о том, к чему и зачем стремиться. Ими наука не занимается, а они важны и в повседневной жизни, так как на них строятся общественные нормы, в то числе использование технологий. Попытка разумно обосновать предпочтительность одного свода правил над другим приводит к применению философских аргументов. Можно возразить, что это тоже решаемо математикой, нужны лишь хорошие модели и вычислительные мощности. Но на практике до этого пока очень далеко. Да и в выборе терминальной цели наука вряд ли поможет в обозримом будущем. Только в составлении иерархии инструментов.

 

Вот насчет гносеологии (эпистемологии) скорее соглашусь. Имхо, ученые с осмыслением своей деятельности справляются самостоятельно и делают это компетентнее, чем Кун, Поппер, Лакатос и прочие. Просто великих трактатов из этого не раздувают, а скромно вносят в формулы поправки и предлагают новые методы.

 

В общем, я к тому, что лучше обходиться без сверхобобщений. Многие великие ученые не чураются философствовать о не решенных вопросах, дураками они от этого не становятся и вопросы не становятся недостойными обсуждения.

Сообщение изменено: terminalX (10 февраля 2025 - 01:51)

[IDKFA]

terminalX:

а они важны и в повседневной жизни, так как на них строятся общественные нормы, в то числе использование технологий

Ты сейчас серьëзно написал, что профессиональные философы определяют направление развития технологий и их применение?

terminalX:

Да и в выборе терминальной цели наука вряд ли поможет в обозримом будущем.

А философы, значит, помогают? Т.е. это им спасибо за войны, например?

terminalX:

Многие великие ученые не чураются философствовать о не решенных вопросах, дураками они от этого не становятся и вопросы не становятся недостойными обсуждения.

Почти все не чураются философствовать, и делают это на дилетантском уровне. Как раз учëные могут пофилософствовать хотя бы слегка со знанием дела, у них хотя бы кандидатский минимум по философии был.

А вот у философов кандидатского минимума по Deep Learning не было, но их это не останавливает.

[terminalX]

IDKFA:

Ты сейчас серьëзно написал, что профессиональные философы определяют направление развития технологий и их применение?

Нет. Совсем другой смысл у фразы. Про "направление развития технологий" ничего не упоминалось. Насчет использования — да. Многие запреты на определенные способы применения технологий имеют этические обоснования. И в будущем встанут новые этические проблемы, например, дилемма вагонетки в поведении беспилотных автомобилей, проблема наблюдения, сбора данных и т.д. Какой-то человеческой ценностью придется жертвовать ради другой. Например, жертвовать ли приватностью в пользу снижения преступности? В какой мере и почему? Максимизацией какой более высокой ценности мы руководствуемся? Короче говоря — придется рассуждать об иерархии ценностей. А это этика, кто бы ни взял на себя эту роль. 

 

 

IDKFA:

А философы, значит, помогают? Т.е. это им спасибо за войны, например?

Скорее "политикам" спасибо. Идеологам. Кстати, войны — это плохо? Почему? Сможем ли мы обсудить этот вопрос, не прибегая к доводам из области философии морали?

 

 

IDKFA:

Почти все не чураются философствовать, и делают это на дилетантском уровне. Как раз учëные могут пофилософствовать хотя бы слегка со знанием дела, у них хотя бы кандидатский минимум по философии был. А вот у философов кандидатского минимума по Deep Learning не было, но их это не останавливает.

Считаю, что философствование должно оцениваться по качеству аргументов, а не источнику. Оценивать высказывание по профессии — это ж банальная апелляция к личности. Видим философствование — цитируем и указываем, с чем и почему несогласны. Может, ученый в этом вопросе дурак, а философ прошаренный. Получается из-за ярлыков согласимся с дураком, а не с умным.

Сообщение изменено: terminalX (10 февраля 2025 - 06:49)

[IDKFA]

Не, ты тоже не понял.
Издержки такого формата общения.
Я же не отрицаю существования философских вопросов. Та же этика. Хотя, например, с вагонеткой разберутся законодатели, не спросив философов.

Предлагаю конкретнее по теме топика.
1. Вопрос возможных направлений развития ИИ, перспектив и ограничений. Можно считать философским в некоторой мере. Только даже те редкие гении прикладной математики, которые не просто предсказывают, а реально двигают ИИ вперëд, крайне редко видят далеко вперëд. А рассуждения философа (чистого философа) о направлениях и перспективах имеют просто нулевую ценность из-за отсутствия у него базовой компетенции. Кое что из того, что ты выкладывал в том числе, реально звучит на уровне "атом земли", "лечим подобное подобным" и т.д. Это было простительно и неизбежно, когда знаний не было. Но сейчас-то они есть. Но не у философа.
2. Вопрос влияния ИИ в будущем на социум. Возможные опасности. Чисто философский вопрос, да. Но, как ни крути, в его основе п.1. А там - см. п1., чистые философы опять в пролëте.
3. Вопрос, является ли ИИ разумом, есль или может быть у него самосознание и т.д. - Ну это прямо 146% философия. Но,... см.п.1.

Т.е. философом ты можешь быть, но без компетенции в теме, получаемой, между прочим, не за год и даже не за пять - никуда.

[terminalX]

IDKFA:

А рассуждения философа (чистого философа) о направлениях и перспективах имеют просто нулевую ценность из-за отсутствия у него базовой компетенции.

Проблема в том, что до получения самого аргумента невозможно достоверно оценить его ценность. Разве что вероятностно. Но тогда и комментарий в его адрес должен быть осторожнее, что-то вроде: "Сомневаюсь, что он может сказать что-то ценное." А комментарий в стиле "философы-болтуны" звучит так, будто вовсе не допускаешь правоты.

 

IDKFA:

Кое что из того, что ты выкладывал в том числе, реально звучит на уровне "атом земли", "лечим подобное подобным" и т.д. Это было простительно и неизбежно, когда знаний не было. Но сейчас-то они есть. Но не у философа.

Можно же процитировать и указать, дескать, тут не согласен и вот в почему. Тема для обсуждений. Если возражение обосновано, обычного его легко сформулировать.

 

Кстати, выкладываю не только то, с чем полностью согласен. Такое вообще редкий случай. Обычно нескольких интересных мыслей и важности затронутых вопросов бывает достаточно. Просто не вижу смысла акцентировать внимание на недостатках при наличии чего-то ценного.

[IDKFA]

terminalX:

Можно же процитировать и указать, дескать, тут не согласен и вот в почему.

Да я указывал пару раз. Сейчас уже желания нет на каждую некомпетентность реагировать развëрнуто.

Чтобы не понял неправильно, разумеется, спец в ИИ можеть быть подобен флюсу, и за пределами технических деталей нести лютую дичь.

Разумеется, широко мыслящий спец в ИИ может врать/сознательно нести дичь. Деньги в отрасли огромные, конфликтов интересов масса.

Т.е. компетенция не является достаточным условием для доверия мнению.

Но необходимым - является. Для меня это аксиома.

[terminalX]

IDKFA:

3. Вопрос, является ли ИИ разумом, есль или может быть у него самосознание и т.д. - Ну это прямо 146% философия. Но,... см.п.1.

Большинство популярных теорий сознания выдвинуты нейробиологами. Рабочей теории нет. Но если занимаешься темой, можешь прикидывать, насколько ту или иную теорию считать правдоподобной. А исходя из этого можно оценивать, насколько ИИ этому соотвтествует и чего не хватает. Скорее мутная область науки. В физике тоже есть нерешенные вопросы, по которым у специалистов разные позиции. Нет ответа, но много рассуждений. Думаю, в вопросе сознания уровень философичности примерно такой же, если рассуждать именно с нейробиологической стороны. (чисто философских теорий там тоже хватает).

[IDKFA]

Про сознание не готов углубляться.
На мой дилетантский взгляд - это вопрос определения.
Можно дать несколько, но насколько каждому из них соответствует тот или иной ИИ, нейробиолог без посторонней помощи ответить не сможет.

[IDKFA]

Кстати, инсайд прямо изнутри Мордора, буквально из кратера Ородруина: Китай вообще ни разу не на острие. Даже не особо догоняет. Весь последний хайп к реальности отношения не имеет.

[terminalX]

Чел пока не смог засудить OpenAI. Решил купить - за 97 млрд. Не получается. В ответ назвал Альтмана мошенником.

 

 

[Wal72]

IDKFA писал 10 Фев 2025 - 18:04:

...Весь последний хайп к реальности отношения не имеет.

можно догадываться об этом, глядя на симпотные мордашки девчонок на фоте сверху... ЗЫ. Мы что ли рулим?

[IDKFA]

Wal72:

ЗЫ. Мы что ли рулим?

Куда нам.
Кто вкладывался, тот и рулит. Хотя сильно не так, как им хотелось. Как развлечение - превзошло все ожидания. Как бизнес вложение - не оправдало совсем.

[Wal72]

IDKFA писал 11 Фев 2025 - 07:23:

Куда нам...

слышал, что в медицине у нас движуха в этом плане вроде, ии оч качественно в некоторых областях диагностирует заболевания.