178233 ответов в этой теме

[oscid]

Вот хуюшки. Буду атомом цезия.

[Stas R]

Идите в пизду, алкаши блеать!

Не шмогу, колени убиты.

Сообщение изменено: Stas R (29 марта 2023 - 09:19)

[Andy_Two]

Вот хуюшки. Буду атомом цезия.

 

Тогда я тоже буду атомом цезия))

[Andy_Two]

Не шмогу, колени убиты.

 

 

Стас, айда с нами. Тоже будешь атомом цезия)

[Andy_Two]

А куда делась Регина? Никто не в курсе?

[Andy_Two]

Регины нет нихуя. Просто Я была несколько раз сегодня, у меня даже запесано на бумажке. Щасс посмотрю:

 

в 7.01, 10.20, 12.05, 18.20 и 19.31.

[Stas R]

Стас, айда с нами. Тоже будешь атомом цезия)

Сера не даёт добро(.

[Andy_Two]

да. очень тяжелый день

[Andy_Two]

Попросил щас Стаса ретранслировать сообщение для Просто Я, поскольку я у нее забанен, в любом случае все стихо, которые я песал сегодня (за исключением где про Осцида в бежевом плаще), посвящены ей. И ничего у меня не было с Региной, просто фильмами и музыкой обменивались и всё. Не было ничего. А то что вы себе навыдумывали, это ваши проблемы.

 

Специально для Рихада отдельная информация: БЫЛО.

Сообщение изменено: Andy_Two (29 марта 2023 - 10:31)

[Andy_Two]

Я чото не хочу больше песать на форуме. Пешешь, пешешь, а всё бестолку и не понятно зачем. Как будто выпендриться решил, как будто Ацетон какой то. Буду только читать пока тогда.

[Andy_Two]

В общем пошел я спать нахуй. Всем снов.

[terminalX]

С 12:20 прикол.

 

[Very Fat Boy]

В общем пошел я спать нахуй. Всем снов.

Вставайте, граф! Вас ждут великие дела! )

[terminalX]

Свежая статья Юдковского в журнале "Time".

 

https://time.com/626...ter-not-enough/

 

Предлагает наложить бессрочный мораторий на новые обучения крупных нейросетей, в том числе для правительств и военных. Запретить продажу мощных видеокарт, установить лимит вычислительных мощностей и контролировать дата-центры. А кто не послушается, нанести авиаудар.

 

Перед ним вышло письмо различных деятелей, включая Маска и Возняка, призывающее остановить выпуск ИИ-продуктов на ближайшие полгода, чтобы было время подумать и разобраться. Юдковский его подписывать не стал, т.к. по его мнению, оно преуменьшает серьёзность ситуации.

Сообщение изменено: terminalX (30 марта 2023 - 02:46)

[oscid]

Американцы конкурентов избавляются? Ну типа чтобы монополия была как на ЯО? Даже ученых бросили именитых на это

Ведь нанести удар должно правительство США же? Не ученый же Юдковчкий бомбить будет Китай, например

Сообщение изменено: oscid (30 марта 2023 - 02:56)

[terminalX]

Американцы конкурентов избавляются? Ну типа чтобы монополия была как на ЯО? Даже ученых бросили именитых на это

Ведь нанести удар должно правительство США же? Не ученый же Юдковчкий бомбить будет Китай, например

Юдковский же всегда был алармистом по ИИ, в последние лет десять твердит про AI alignment. Сейчас, видимо, обострился по известным причинам. Маск тоже давно боится, хотя раньше его слова воспринимались лишь как желание ляпнуть что-то эпатажное на публику, но теперь похоже, он это всерьёз.

 

Насчёт "бомбить" - Юдковский не разделяет по странам, пишет, кто бы это ни был, дескать под угрозой всё живое, и нужен международный договор.

 

Там в письме ещё Стюарт Рассел, известный учёный-информатик, тоже не вызывает удивления, так как давно пишет про необходимость контроля и предварительный мер.

Сообщение изменено: terminalX (30 марта 2023 - 03:07)

[terminalX]

Кстати, если допустить конспирологию, можно предложить версию поэкономнее. Власти боятся развала традиционных политических систем.

Впрочем, не исключено, что они это действительно боятся, однако нынешняя шумиха вызвана реальными опасениями. Думаю, эта версия правдоподобнее.

[oscid]

Юдковский же всегда был алармистом по ИИ, в последние лет десять твердит про AI alignment. Сейчас, видимо, обострился по известным причинам. Маск тоже давно боится, хотя раньше его слова воспринимались лишь как желание ляпнуть что-то эпатажное на публику, но теперь похоже, он это всерьёз.

 

Насчёт "бомбить" - Юдковский не разделяет по странам, пишет, кто бы это ни был, дескать под угрозой всё живое, и нужен международный договор.

 

Там в письме ещё Стюарт Рассел, известный учёный-информатик, тоже не вызывает удивления, так как давно пишет про необходимость контроля и предварительный мер.

Ну он же не идиот. Понимает КТО может бомбить другие страны и КОГО. Вряд ли он опасается, что ИИ создадут в Полинезии. Или он преполагает, что Китай может бомбить США, если правительство США не захочет останавливать эти работы?

[terminalX]

Ну он же не идиот. Понимает КТО может бомбить другие страны и КОГО. Вряд ли он опасается, что ИИ создадут в Полинезии. Или он преполагает, что Китай может бомбить США, если правительство США не захочет останавливать эти работы?

Он предлагает заключить международный договор, дающий право бомбить датацентры, продолжающие обучать крупные сети, где бы они ни были. Естественно, хочет, чтобы согласились на это и США, и Китай и все прочие. Чел аполитичен и видит в нынешнем прогрессе экзистенциальный риск, поэтому, по его мнению, нужно принять все меры, так как жизнь важнее какого-то локального ущерба.

Как я понял, особое опасение у него вызывает DeepMind (британцы), т.к. они якобы вообще не парятся безопасностью, но OpenAI упоминает.

Сообщение изменено: terminalX (30 марта 2023 - 03:50)

[terminalX]

The moratorium on new large training runs needs to be indefinite and worldwide. There can be no exceptions, including for governments or militaries. If the policy starts with the U.S., then China needs to see that the U.S. is not seeking an advantage but rather trying to prevent a horrifically dangerous technology which can have no true owner and which will kill everyone in the U.S. and in China and on Earth. If I had infinite freedom to write laws, I might carve out a single exception for AIs being trained solely to solve problems in biology and biotechnology, not trained on text from the internet, and not to the level where they start talking or planning; but if that was remotely complicating the issue I would immediately jettison that proposal and say to just shut it all down.

 

[oscid]

Он предлагает заключить международный договор, дающий право бомбить датацентры, продолжающие обучать крупные сети, где бы они ни были. Естественно, хочет, чтобы согласились на это и США, и Китай и все прочие. Чел аполитичен и видит в нынешнем прогрессе экзистенциальный риск, поэтому, по его мнению, нужно принять все меры, так как жизнь важнее какого-то локального ущерба.

Как я понял, особое опасение у него вызывает DeepMind (британцы), т.к. они якобы вообще не парятся безопасностью, но OpenAI упоминает.

Ну он же рационален якобы. пусть и аполитичен. По факту мы имеем технологии, мощности и компетенции (уже в наличии в сумме) в одной стране США. У них это уже работает. Юдковский может себе такое преположить, что РФ объединится с ЕС и Китаем и в случае отказа США от приостановки исследований начнут бомбить США?  ))  Я чет не очень. Ну или допустим Китай будет против. Его будут бомбить? А Китай будет на это смотреть? )) У него так то ядерное оружие имеется.

[oscid]

Очень похоже на заявления Рихада, что все должны перестать его газлайтить немедленно. А то ... А если что пусть смотрят в подписи! 

[terminalX]

Ну он же рационален якобы. пусть и аполитичен. По факту мы имеем технологии, мощности и компетенции (уже в наличии в сумме) в одной стране США. У них это уже работает. Юдковский может себе такое преположить, что РФ объединится с ЕС и Китаем и в случае отказа США от приостановки исследований начнут бомбить США?  ))  Я чет не очень. Ну или допустим Китай будет против. Его будут бомбить? А Китай будет на это смотреть? )) У него так то ядерное оружие имеется.

Если исходить из того, что его алармизм правдив, то предложение его рационалистично. Чтобы предотвратить (по его мнению) катастрофу, лучше попытаться заключить труднореализуемый договор, чем не делать ничего или пытаться бороться разобщенно. Так хоть шанс появится.

 

Но по-моему, он перебарщивает. Эти штуки могут достичь фантастического уровня, но они еще долго будут контролироваться своими хозяевами. Когда надо, отключат, что надо зацензурируют. Сейчас они неавтономны, привязаны к своим дата-центрам с системами охлаждения. Другое дело, что они могут дать мощный буст в других областях, таких как биотехнология, что там открытия повалят взрывообразно. Это несколько тревожит. Но ожидаю, что общество сумеет адаптироваться и стать лучше, а не хуже.

Сообщение изменено: terminalX (30 марта 2023 - 06:36)

[oscid]

Если исходить из того, что его алармизм правдив, то предложение его рационалистично. Чтобы предотвратить (по его мнению) катастрофу, лучше попытаться заключить труднореализуемый договор, чем не делать ничего или пытаться бороться разобщенно. Так хоть шанс появится.

 

Но по-моему, он перебарщивает. Эти штуки могут достичь фантастического уровня, но они еще долго будут контролироваться своими хозяевами. Когда надо, отключат, что надо зацензуируют. Сейчас они неавтономны, привязаны к своим датацентрам с системами охлаждения. Другое дело, что они могут дать мощный буст в других областях, таких как биотехнология, что там открытия повалят взрывообразно. Это несколько тревожит. Но ожидаю, что общество сумеет адаптироваться и стать лучше, а не хуже.

Это сферическая рационализация в вакууме. Типа Гаш должен перестать есть. А если не будет надо сжечь у него холодильник. Абсолютно невыполнимое в реале требование. Но типа рациональное. Потому что любое дебильное предложение лучше чем никакое. Давайте начнем ядерную войну, чтобы нам не пришел пиздец. )))  Надеюсь, что ты тролишь

Сообщение изменено: oscid (30 марта 2023 - 04:51)

[terminalX]

Очень похоже на заявления Рихада, что все должны перестать его газлайтить немедленно. А то ... А если что пусть смотрят в подписи! 

Мне это его письмо напомнило случай, как он однажды на сайте LessWrong запретил обсуждать "Василиск Роко". Это такой мысленный эксперимент, который якобы может стать самосбывающимся пророчеством. Тут подробнее: https://ru.m.wikiped...око

Но из-за запрета эксперимент прославился еще больше. (эффект Стрейзанд)

 

Человек он интересный, но со своими перекосами

[IDKFA]

Да уж. Юдковский несколько разочаровал

[Август]

Да уж. Юдковский несколько разочаровал

Не надо мозги всякой хуйнёй засирать и будет вам аленький цвяточак.)

[IDKFA]

Не надо мозги всякой хуйнёй засирать и будет вам аленький цвяточак.)

"Ошибкой было бы думать" (с) В. И. Ленин

[terminalX]

А вот и новое, трёхчасовое интервью с нашим героем. Завтра послушаю.

 

[Август]

"Ошибкой было бы думать" (с) В. И. Ленин

При этом Сталин держал указательный палец в гранёном стакане.