Добро пожаловать на ЖЕЛЕЗНЫЙ ФАКТОР!
Рекомендуем Вам зарегистрироваться, чтобы получить полный доступ к форуму. После регистрации Вам будет разрешено создавать топики, писать сообщения, загружать и просматривать фотографии, оценивать посты других форумчан, управлять собственным профилем на форуме и многое другое. Личные сообщения доступны после 50 оставленных на форуме сообщений . Полный доступ к разделу "Химия" так же доступен после 50 сообщений. Если у Вас уже есть аккаунт, войдите здесь, либо зарегистрируйтесь!
Александр, мы обыватели, ты советуй чем лучше пользоваться на данный момент
Вот ты мне посоветовал GPT 4o Mini.
Вполне устраивает, без заморочек
Да я тоже обыватель. По работе пользуюсь, но с довольно скромным целями. Остановился на ChatGPT, его и советую. Именно официальное приложение, потому что он там запоминает всю историю общения, если включено в настройках. Меня устраивает 4o. Когда переключается на 4o mini — тоже хорошо, разницы почти не замечаю.
Я думаю, что через полгода все топовые ИИ достигнут того уровня, что мы, обычные пользователи, не будем замечать разницы в их интеллекте. Замечать будут те, кто использует их на грани возможностей. А для наших скромных запросов все они будут примерно одинаково хороши. Но скорее всего в начале 2025 появятся еще и так называемые ИИ-агенты, у них будет другое применение.
Сообщение изменено: terminalX (12 декабря 2024 - 01:19)
ИИ общается с вами в голосовом режиме и одновременно видит то, что попадает на камеру вашего смартфона. Можно спросить "что ты видишь?". Если вы дома, он опишет вашу комнату. Всё в реальном времени.
Это бесплатно, но есть большой недостаток — русского не понимает. Я сейчас поговорил с ним на английском. Когда OpenAI выкатят аналогичную штуку, она будет и на русском.
По пока не подтвержденной инфе, Claude 3.5 Opus завершил обучение и масштабирование снова сработало. Но Anthropic его пока не выпустила, так как использует его синтетические данные для улучшения модели Sonnet.
Беседа с Теренсом Тао о влиянии ИИ на математику. Часто затрагивают тему, которую мы тут недавно обсуждали - как ИИ повлияет на человеческие способности. Говорит, некоторые навыки ослабнут, как, например, калькуляторы и компьютеры ослабили "чувство числа", но это откроет путь к приобретению новых навыков, которые нам пока не доступны. Когда ИИ сможет выдвигать новые доказательства, работа математиков никуда не денется, часть их будет специализироваться на стремлении понять доказательства, сделанные искусственным интеллектом, и объяснении их другим людям.
Quote
00:05 Введение и представление гостей
01:54 Приветствие и благодарности
02:53 Вопросы и ответы о математике и ИИ
04:51 Математика в промышленном масштабе
07:45 Пределы сотрудничества в математике
10:12 Разработка программного обеспечения и математика
11:10 Координация и искусственный интеллект
13:15 Роль формализации и доказательств
15:37 Культурная норма и ошибки
17:53 Красота теоремы и когнитивный процесс
19:31 Развитие навыков рассуждения
20:52 Влияние больших языковых моделей на обучение
21:50 Интеграция больших языковых моделей в преподавание
23:06 Влияние ИИ на навыки и проницательность
26:21 Эстетика математики и восприятие реальности
27:15 Будущее сложных математических доказательств
28:42 Проблемы масштабируемого надзора
29:54 Математика и искусственный интеллект
30:51 Экспериментальная математика и искусственный интеллект
32:17 Будущее математики и искусственного интеллекта
33:40 Атрибуция и авторство в математике
35:28 Влияние искусственного интеллекта на математику
36:18 Применение математики в обществе
37:46 Математика и научные исследования
40:37 Будущее математики и советы для молодых математиков
40:49 Гибкость и сотрудничество в математике
41:43 Ограничения ИИ и важность человеческих навыков
42:03 Навыки для эффективного использования ИИ
43:24 Прогресс и ограничения ИИ
44:46 Применение ИИ в математике
45:55 Модели и рассуждения
48:45 Комплиментарность ИИ и людей
51:26 Инвестиции в инфраструктуру
51:57 Совместное использование технологий
52:45 Краудсорсинг и роль правительства
53:06 Превращение компьютера в интеллект
53:55 Вопросы и ответы
55:21 Проблемы с поиском математических результатов
57:21 Ограничения моделей искусственного интеллекта
58:49 Доверие к системам искусственного интеллекта
01:01:55 Переход к решению математических задач
01:03:21 Эволюция самоуправляемых автомобилей
01:04:21 Применение в физике и биологии
01:05:16 Введение Дэниела
01:05:53 Обратная связь между математикой и прикладными науками
01:07:49 Теорема универсальной аппроксимации
01:10:43 Сотрудничество моделей ИИ
01:13:48 Объяснимость искусственного интеллекта
01:14:58 Постстатистический анализ моделей
01:15:57 Архитектуры нейронных сетей для доказательства теорем
01:17:51 Советы для исследователей, сотрудничающих с ИИ
26-летний Сучир Баладжи — бывший исследователь ChatGPT. За 3 месяца до своей смерти он обвинил компанию в нарушении закона об авторских правах.
Предполагается, что Баладжи обладал ключевыми доказательствами, которые могли быть использованы против OpenAI в судах с авторами, чьи труды незаконно использует компания.
Предварительно, Баладжи совершил суицид. Полиция пока не нашла никаких доказательств насильственной смерти.>>
С OpenAI постоянно кто-то судится, от Маска до газет, писателей и программистов. Если это могучие ребята вроде New York Times, они в суды в качестве подкрепления приглашают людей типа с весомым мнением - в то числе бывших сотрудников OpenAI, которые настроены критически. В этот раз набрали 12. Баладжи на фоне всех этих людей не представляет особого веса, чтоб прям от него всё зависело. Вряд ли его "показания" против OpenAI серьёзнее, чем у остальных из 12, да и вряд ли там есть что-то серьёзнее, чем статья на его сайте. А вот алармистом он был, из-за этого и уволился. Это вполне могло послужить причиной и для самоубийства. Сейчас в штатах многие радикализируются на почве страха перед ИИ, есть и абсолютно убежденные, что мы всё обречены, а в данном случае ещё и чувство вины могло подлить масла.
На Lmsys новый гугловский Gemini Flash 2.0 сейчас почти на том же уровне, что OpenAI o1 preview. Но при этом вычислительно в 100 раз дешевле. Если смотреть на это не как на гонку конкурентов, а как на прогресс ИИ отрасли в целом, то можно сказать, что за 3 месяца лучшая модель удешевилась в 100 раз. Что и позволило выкатить ее для всех.
Помнится, всего полгода назад лучший гугловский ИИ советовал людям наносить клей на пиццу и кушать камни.
На этот раз беспилотный автомобиль Waymo сбил велосипедиста в Сан-Франциско.
Quote
Беспилотное такси Waymo застряло на дороге в США из-за конусов, а потом попыталось удрать от сотрудников техподдержки.
Quote
Три недели назад одна из машин Waymo с автопилотом безо всякой причины врезалась в телефонный столб, и это привело к отзыву 672 автомобилей. Тем не менее, теперь компания опубликовала заявление, что её транспортные средства на 200–350 % эффективнее избегают столкновений, чем люди.
Сообщение изменено: Kaчок (18 декабря 2024 - 02:24)
Я и запостил в противовес подобным новостям. Неудачные случаи сми охотно подхватывают и разносятся по инету, а множество правильных срабатываний игнорится. Как и в случае с самолётами, искаженная "статистика" в массах создает предвзятое отношение.
Пообщался. В отличии от их прошлых моделей, впечатления сугубо положительные. Но долгосрочную память пока не прикрутили, помнит только текущий диалог. Наверно прикрутят, когда выйдет из экспериментального режима.
Уже года 4 склоняюсь к позиции, озвучиваемой Бенджио в данном ролике.
Quote
Тест на сознание. ЧАСТЬ 1. Участвуют Сабина Хоссенфельдер, Йошуа Бенжио, Хилари Лоусон и Ник Лейн
00:00 Введение в тему
• Возможность воспроизведения связей и процессов в мозге.
• Идея загрузки сознания в компьютер.
• Тест Тьюринга и его критика.
00:20 Тест Тьюринга и его значение
• Алан Тьюринг утверждал, что если компьютер не отличим от человека, он разумен.
• Критики считают, что тест не определяет разумность.
• Вопрос о том, можно ли наблюдать мышление и сознание.
01:10 Эксперты и формат дискуссии
• Джошуа Бенджио, Хилари Лоусон, Сабина Хоссенфельдер и Ник Лейн.
• Вопрос: есть ли тест на мышление или сознание у людей или компьютеров?
03:10 Джошуа Бенджио
• Мозг как биологическая машина, созданная эволюцией.
• Прогресс в ИИ подтверждает гипотезу о сознании.
• Тест Тьюринга не четко определен, но ИИ достиг определенного уровня.
06:18 Хилари Лоусон
• Нет теста на сознание, так как оно не может быть найдено.
• Опыт всегда связан с чем-то другим.
• Тест Тьюринга вводит понятие языка, но не понимает его значения.
09:45 Сабина Хоссенфельдер
• Сознание как материальный феномен, возникающий из взаимодействия частиц.
• Множество теорий измерения сознания, но все они неверны.
• Тест Тьюринга как контрольный показатель развития.
11:34 Ник Лейн
• Сознание как биологический феномен.
• Тест Тьюринга как признак развития, но не тест на мышление или сознание.
12:28 Проблема сознания
• Сознание часто путают с интеллектом.
• Главная проблема сознания — почему мы чувствуем себя живыми и имеем ощущения.
• Нейронные сети не всегда могут объяснить чувства.
13:21 Чувства и биология
• Чувства тесно связаны с восприятием себя как людей и моралью.
• Зубная боль — биологическая проблема, не связанная с квантовой физикой.
• Эволюция чувств полезна, но их происхождение не из нейронных сетей.
14:16 Эволюция и сознание
• Чувства эволюционировали в процессе естественного отбора.
• Анестезия действует на большинство животных, что указывает на биологическую природу сознания.
• Митохондрии играют ключевую роль в этом процессе.
16:14 Физический субстрат сознания
• Вопрос о том, можно ли объяснить мышление и опыт с точки зрения физического материала.
• Сознание — это эмерджентное свойство, возникающее из взаимодействия других вещей.
• Возможность загрузки сознания в компьютер обсуждается, но пока не подтверждена.
18:11 Вычисления и сознание
• Вычисления — основа сознания, но оно больше, чем просто вычисления.
• Субъективный опыт — важная часть сознания, которую сложно описать словами.
• Математические модели могут объяснить особенности субъективного опыта.
22:41 Биологические решения
• Биологи мало представлены в изучении сознания.
• Биологические решения принимаются в режиме реального времени.
• Чувства играют ключевую роль в биологических системах.
Понравилась ироничная метафора Сергея Маркова о сознании у ИИ:
«В магазин завезли поддельные ёлочные игрушки. Выглядят они, как настоящие, но радости не приносят».
Если придерживаться вычислительного функционализма, сознание — это всегда имитация. Настоящего сознания не существует, как и не существует настоящих (не игрушечных) ёлочных игрушек. Оно либо имитированное, либо никакое. Философских зомби не существует, потому что как только мы создадим такого "зомби", так он сразу станет сознательным и перестанет быть зомбаком.
Новая статья от Google, которую сейчас все обсждают.
Quote
Титаны: учимся запоминать во время тестирования
На протяжении более чем десятилетия проводились обширные исследования того, как эффективно использовать рекуррентные модели и внимание. В то время как рекуррентные модели направлены на сжатие данных в память фиксированного размера (называемую скрытым состоянием), внимание позволяет уделять всему контекстному окну, захватывая прямые зависимости всех токенов. Однако это более точное моделирование зависимостей сопряжено с квадратичными затратами, ограничивая модель контекстом фиксированной длины. Мы представляем новый нейронный модуль долговременной памяти, который учится запоминать исторический контекст и помогает вниманию уделять текущему контексту, используя при этом давнюю информацию. Мы показываем, что эта нейронная память имеет преимущество быстрого параллелизуемого обучения при сохранении быстрого вывода. С точки зрения памяти мы утверждаем, что внимание из-за его ограниченного контекста, но точного моделирования зависимости действует как кратковременная память, в то время как нейронная память из-за своей способности запоминать данные действует как долговременная, более постоянная память. На основе этих двух модулей мы представляем новое семейство архитектур, называемых Titans, и представляем три варианта для решения вопроса о том, как можно эффективно включить память в эту архитектуру. Наши экспериментальные результаты по языковому моделированию, здравому смыслу, геномике и задачам временных рядов показывают, что Titans эффективнее Transformers и последних современных линейных рекуррентных моделей. Кроме того, они могут эффективно масштабироваться до более чем 2M размера контекстного окна с более высокой точностью в задачах «иголка в стоге сена» по сравнению с базовыми показателями.
Это не единственный вариант увеличить длину контекста без квадратичного роста.
Сейчас активно копают в этом направлении, чтобы избавиться от токинайзера и перейти на байтовый ввод.
Есть надежда, что следующие версии супермозга наконец осилят подсчëт букв r в слове ruspberry
Хинтон — довольно жестко о позициях Хомского и Пенроуза. О Сёрле — еще жёстче. О своей нобелевке тоже высказывается довольно критично. Говорит, не за ту работу дали.
Насчет независимости ума и доброты я с ним не согласен, но он и сам не уверенно об этом говорит.
Из забавного — говорит, сильно худеет каждый раз, когда приходит в голову новая идея. И чем значимее идея, тем больше веса теряет
Quote
Хинтон осознает, что развитие ИИ идет быстрее, чем мы можем его сдерживать.
Он объясняет, что цифровые вычисления лучше аналоговых для экономии энергии и эффективности.
Преимущества и недостатки аналоговых и цифровых вычислений
Аналоговые системы имеют меньшую мощность и могут подключать больше устройств.
Цифровые системы могут быстро создавать копии и делиться опытом.
Хинтон считает, что аналоговые системы не могут эффективно обмениваться информацией.
Опасения по поводу доминирования ИИ
ИИ могут быстро понять, что контроль - это хорошо.
Они могут стать умнее нас и манипулировать людьми.
Хинтон предупреждает, что ИИ могут намеренно вводить в заблуждение.
Субъективный опыт и сознание
Хинтон утверждает, что у ИИ может быть субъективный опыт.
Он критикует традиционные модели восприятия и сознания.
Чат-боты могут иметь субъективный опыт, что ставит под сомнение уникальность человеческого сознания.
Заключение
Хинтон считает, что субъективный опыт у ИИ делает нас менее защищенными.
Он подчеркивает важность саморефлексии и самосознания в человеческом сознании.
Хинтон подводит черту, утверждая, что у ИИ есть субъективный опыт.
Субъективный опыт и его восприятие
Субъективный опыт не означает, что он осознан.
Философы считают, что субъективный опыт происходит в голове, но это лингвистическая ошибка.
Опыт не похож на фотографию, он не имеет физического существования.
Восприятие и внутренний театр
Восприятие не связано с внутренним театром.
Мозг обрабатывает информацию, создавая внутреннее представление о мире.
Люди часто думают, что внешний мир влияет на внутренний театр, но это не так.
Сознание и искусственный интеллект
Сознание связано с сетью, работающей в режиме по умолчанию.
Системы искусственного интеллекта могут быть сознательными, но это требует специального оборудования.
Программное обеспечение должно работать на чем-то, чтобы быть сознательным.
Влияние искусственного интеллекта
Боевые роботы могут иметь намерения и верить в определенные вещи.
Чат-боты уже ведут себя так, как будто имеют психические состояния.
Люди неправильно понимают, что такое субъективный опыт, что вызывает беспокойство по поводу искусственного интеллекта.
Проблемы с пониманием субъективного опыта
Люди считают, что у них есть субъективный опыт, которого нет у машин.
Это создает ложное чувство безопасности и особенности.
Проблема в том, что люди неправильно понимают, что такое субъективный опыт.
Вертикаль и горизонталь
Вертикаль имеет одну степень свободы вращения, а горизонталь - две.
В трехмерном пространстве вертикаль и горизонталь имеют разные значения.
Пример с алюминиевыми дисками показывает, что вертикаль имеет особое значение.
Метатеория и восприятие
Метатеория о том, как работают слова, может быть неверной.
Теория восприятия и субъективного опыта может быть правильной, несмотря на неверную метатеорию.
Субъективный опыт не соответствует действительности и является гипотетическим состоянием.
Роджер Пенроуз и сознание
Роджер Пенроуз считает, что классические вычисления не могут объяснить сознание.
Пенроуз утверждает, что математики могут интуитивно понимать истинность вещей, которые невозможно доказать.
Искусственный интеллект уже справляется с задачей объяснения сознания без квантовой механики.
Эксперимент с китайской комнатой
Эксперимент с китайской комнатой вводит в заблуждение, утверждая, что система не понимает английский язык.
Система понимает английский язык, даже если отдельные китайцы не понимают.
Это нечестный аргумент, который пытается запутать аудиторию.
Развитие искусственного интеллекта в Китае
Китай близок к достижению уровня Запада в области искусственного интеллекта.
Америка пытается замедлить развитие Китая, но это может привести к разработке собственных технологий.
Китайское образование в области STEM лучше, чем в США, что помогает им наверстать упущенное.
Контроль над искусственным интеллектом
Правительство может попытаться замедлить развитие искусственного интеллекта, но это сложно.
Пример с Google и трансформаторами показывает, что замедление возможно, но не гарантировано.
Засекречивание математики для искусственного интеллекта маловероятно.
Обмен идеями и децентрализация ИИ
Обмен идеями в области ИИ может замедлить процесс, но новые идеи все равно будут появляться.
Децентрализация ИИ обсуждается как способ предотвращения сценария "Скайнета".
Расщепляющийся материал для создания атомной бомбы трудно достать, что делает его менее доступным для террористов.
Опасности децентрализации ИИ
Уменьшение веса больших моделей ИИ может сделать их уязвимыми для манипуляций.
Компания Meta уже уменьшила вес своих моделей, что привело к раскрытию их уязвимостей.
Прогнозы о будущих прорывах в ИИ остаются неопределенными.
Вклад в развитие ИИ
ИИ может принести огромную пользу человечеству, но его развитие не будет остановлено.
Важно сосредоточиться на безопасном развитии ИИ, а не на замедлении его прогресса.
Ответственность за безопасность ИИ должна быть приоритетом.
Краткосрочные риски и их решения
Краткосрочные риски включают автономное оружие и поддельные видео.
Необходимы системы для проверки подлинности видео и изображений.
Дискриминация и предвзятость могут быть исправлены, но не полностью.
Влияние ИИ на общество
ИИ может значительно повысить производительность труда, но это приведет к неравенству.
Богатые станут еще богаче, а бедные еще беднее.
Важно найти баланс между развитием ИИ и социальной справедливостью.
Субъективный опыт и восприятие
Субъективный опыт - это гипотетическое состояние реального мира.
Система восприятия может обманывать нас, но это не означает, что субъективный опыт существует.
Восприятие связано с внутренним представлением о внешнем мире.
Книга не имеет системы восприятия, так как не воспринимает мир и не имеет внутренней репрезентации.
Различие между интеллектом и рациональностью
Существуют различные виды интеллекта, и рациональность отличается от интуитивного мышления.
Логические рассуждения, такие как в шахматах, отличаются от интуитивного мышления.
Нейронные сети лучше справляются с интуитивным мышлением, чем логические рассуждения.
Нравственность и интеллект
Нет доказательств, что высокий интеллект всегда связан с высокой нравственностью.
Примеры Илона Маска и других показывают, что это не всегда так.
Понимание - это преобразование слов в векторы признаков и взаимодействие между ними.
Понимание в больших языковых моделях
Понимание в больших языковых моделях аналогично человеческому пониманию.
Модели используют статистические корреляции для предсказания следующего слова.
Понимание включает преобразование слов в векторы признаков и их взаимодействие.
Аналогия с конструкторами Lego
Слова можно сравнить с конструкторами Lego, которые могут деформироваться для лучшего сочетания.
Понимание слова из контекста аналогично соединению блоков Lego.
Моделирование сложных вещей с использованием больших нейронных сетей.
Обучение и исследования
На встречах с аспирантами и исследователями используются картинки и жесты вместо уравнений.
Разные люди мыслят по-разному: интуитивно или математически.
Личный опыт и смена программ обучения.
Начало карьеры
Начал в Кембридже с изучения физики, химии и рентгеновской кристаллографии.
Уволился из-за тяжелой работы и вернулся к архитектуре.
Занялся физикой, химией и физиологией, но решил узнать больше о мозге через философию.
Философия и психология
Занимался философией год, но разочаровался в пустых разговорах.
Перешел к психологии, но разочаровался в экспериментах, которые могли бы подтвердить или опровергнуть теории.
Занялся искусственным интеллектом и компьютерным моделированием.
Профессор и исследовательские задачи
Профессор, но не знает, как выбирает исследовательские задачи.
Советует искать места, где все поступают неправильно, и пытаться улучшить ситуацию.
Подчеркивает важность интуиции и следования ей, если она хорошая.
Интуиция Рэя Курцвейла
Курцвейл сделал множество правильных предсказаний о будущем компьютеров.
Считает, что компьютеры становятся быстрее и умнее, что приведет к новым возможностям.
Подчеркивает важность субъективного опыта и сознания.
Быстрые веса и адаптация
Считает, что быстрые веса будут важны для адаптации синапсов в мозге.
Современные компьютеры не могут эффективно использовать быстрые веса.
В будущем потребуются более высокие скорости для улучшения моделей.
Творческий потенциал и уверенность
Признает, что легкая маниакально-депрессивная стадия помогла развить творческий потенциал.
Оценивает идеи по их значимости и весу.
Не считает себя наследником Джорджа Булла, но возлагает большие надежды на свои успехи.
Уход из Google и безопасность ИИ
Ушел из Google из-за обеспокоенности безопасностью ИИ.
Считает, что ИИ может представлять угрозу безопасности.
Продолжает заниматься философией и исследованиями в этой области.
Будущее ИИ и советы молодым исследователям
ИИ изменит мир, как к лучшему, так и к худшему.
Советует молодым исследователям работать над вопросами безопасности ИИ.
Подчеркивает важность выравнивания и согласования в научных исследованиях.
Нейронные сети и Нобелевские премии
Большой интерес в науке связан с нейронными сетями и ИИ.
Нобелевские премии по физике и химии присуждаются за работы в области ИИ.
Совет
Нобелевская премия по физике
В прошлом году автор получил Нобелевскую премию по физике за работы в области искусственного интеллекта и нейронных сетей.
Автор не считает себя физиком, хотя был хорош в физике на первом курсе университета.
Он бросил физику из-за недостаточных успехов в математике, что, возможно, помогло ему получить премию.
Замешательство по поводу премии
Автор испытывает замешательство по поводу премии, так как его работа над нейронными сетями была связана с алгоритмом "машины Больцмана".
Этот алгоритм использовал статистическую физику, но не привел к успеху в области искусственного интеллекта.
Настоящий успех пришел благодаря другому алгоритму, который автор разработал вместе с Терри Санофски.
Новая китайская модель с рассуждением — DeepSeek-R1. Примерно на уровне OpenAI o1. С открытым исходным кодом и весами. Бесплатна в качестве чата, то есть платите своими данными (используются для обучения). Ну или запускаете на собственном оборудовании, если позволяет.
Вход
Регистрация
Наверх
m2-res_480p.mp4
