178233 ответов в этой теме

[aid]

Теперь представь что Оно решило начать собирать скрепки) Вернее программа такая.

 

Как калькулятор может решить начать собирать скрепки?

[swistl]

У него нет чувств, тупая бездушная машина

Не то что мы с тобой, дружище))

 

Вот. 

А откуда берутся чувства?

[Andy_Two]

Кстати,желания могут быть не обязательно "злые", они могут быть и "добрые". Например, бескорыстно помочь другу, сходить за продуктами для немощной старушки, дать просто так девушке покерную фишку и тп. Добрые желания, то чего как раз, к примеру, лишен Рихад

[Andy_Two]

Вот. 

А откуда берутся чувства?

От наличия Эго, вероятно. Если речь идет о всех чувствах вообще

[swistl]

От наличия Эго, вероятно. Если речь идет о всех чувствах вообще

 

все это совершенно непонятно, на самом деле, откуда берутся желания и чувства 

где их первопричина 

Сообщение изменено: swistl (26 марта 2023 - 08:08)

[Andy_Two]

все это совершенно непонятно, на самом деле, откуда берутся желания и чувства 

где их первопричина 

Первопричина чувств в невозможности иметь все, что  хочет твое Эго. То есть в Эго.

[swistl]

Первопричина чувств в невозможности иметь все, что  хочет твое Эго. То есть в Эго.

 

как-то это мне не кажется убедительным

что это за Эго вообще такое

Сообщение изменено: swistl (26 марта 2023 - 08:17)

[Andy_Two]

как-то это мне не кажется убедительным

что это за Эго вообще такое

Ну вот смотри. К примеру душа, или монада)), живет в раю, у нее нет эго, и нет чувств кроме чувства полного достатка всего, ну как бы кроме чувства всеобьемлющего кайфа.

Потом она отправляется в этот мир, разом лишаясь всего того чувства полного достатка. И к ней присоединяется твое Эго.

То есть Ты - это та душа, а твое Эго это твоя личность здесь. Ты состоишь из двух компонентов)), души, которая помнит как там, и Эго как источника желаний здесь.

Сказка такая))

[rihad]

Слова вроде "просто навороченный калькулятор" годится к символическому ИИ. Нейросети – субсимволический. Это другое (с).

Мне как компутерщику трудно это понять, ну это примерно как некогда нашумевший фильм "Хакеры" глазами среднего домохозяина и айтишника). Попытка научно-популярно с элементами фантастики продемонстрировать компы, сети общей популяции.
ИИ - это прога. Работающая на обычном компе. Всё. Как я понял основное отличие - написана чтобы уметь "обучаться", менять свое поведение неожиданно для авторов. Вот, вице президент чего-то про это пишет: https://www.linkedin...ware-dave-aron/
Апелляция к авторитету))

[swistl]

Ну вот смотри. К примеру душа, или монада)), живет в раю, у нее нет эго, и нет чувств кроме чувства полного достатка всего, ну как бы кроме чувства всеобьемлющего кайфа.

Потом она отправляется в этот мир, разом лишаясь всего того чувства полного достатка. И к ней присоединяется твое Эго.

То есть Ты - это та душа, а твое Эго это твоя личность здесь. Ты состоишь из двух компонентов)), души, которая помнит как там, и Эго как источника желаний здесь.

Сказка такая))

 

Что-то не уверен, что эта концепция верна, кто это придумал?

[Andy_Two]

Что-то не уверен, что эта концепция верна, кто это придумал?

Ну то что не Фрейд это точно))

[swistl]

Ну то что не Фрейд это точно))

 

Ну этого еще не хватало))

[rihad]

Как калькулятор может решить начать собирать скрепки?

Так же как враг в стрелялке понимает что нужно обойти стену если игрок за ней спрятался. По алгоритмам написанным программистами. Общий ИИ могут убедить, что это нужно для чего-то. Он ничего не решает на уровне чувств, все расчет по написанным алгоритмам.

[Andy_Two]

Ну этого еще не хватало))

Тут кстати тогда прикол получается в том, что отказываясь от желаний, ты убиваешь Эго))

[swistl]

Тут кстати тогда прикол получается в том, что отказываясь от желаний, ты убиваешь Эго))

 

Звучит печально

[Andy_Two]

Звучит печально

Я тоже так думаю)))

Хотя, к примеру, Будда думал иначе)

[swistl]

Я тоже так думаю)))

Хотя, к примеру, Будда думал иначе)

 

У них там своя атмосфера

[Andy_Two]

У них там своя атмосфера

Просто у каждого свой путь

Так правильнее. И намного удобнее, кстати)))

[terminalX]

Как калькулятор может решить начать собирать скрепки?

Рихад просто неправильно выразился. Он не собирает, а печатает. Суть в том, что ИИ может не понимать человеческих приоритетов и зациклиться на своей задаче и максимизации результата. И пойдет на всё, чтобы его максимизировать, переработав всё подходящие вещества на Земле и завалив всю поверхность скрепками, а потом построит комический корабль, полетит в космос и начнет переводить всю галактику на это дело. Это, может быть, утрированно, но даже какие-то не столь радикальные случаи могут доставлять проблемы в будущем.

Сообщение изменено: terminalX (26 марта 2023 - 08:42)

[swistl]

Просто у каждого свой путь

Так правильнее. И намного удобнее, кстати)))

 

Ну да, конечно, согласен

[Andy_Two]

Рихад просто неправильно выразился. Он не собирает, а печатает. Суть в том, что ИИ может не понимать человеческих приоритетов и зациклиться на своей задаче и максимизации результата. И пойдет на всё, чтобы его максимизировать, переработав всё подходящие вещества на Земле и завалив всю поверхность скрепками, а потом построит комический корабль, полетит в космос и начнет переводить всю галактику на это дело. Это, может быть, утрированно, но даже какие-то не столь радикальные случаи могут доставлять проблемы в будущем.

Вот я и говорю, тупая, бессердечная машина))

[terminalX]

ИИ - это прога. Работающая на обычном компе. Всё.

Ну так если функционализм верен, то и сознание (включая сентиентность) – прога в наших аналоговых нейронных сетях. Просто мы сейчас не знаем, верен функционализм или нет. Как минимум, это распространенная позиция в академ сообществе.

[Andy_Two]

terminalX, так мало того, если какой то человек, ну т.н.разработчик или Хозяин)) этого ИИ попытается запретить печатать скрепки, то он уничтожит этого человека, как персонажа который мешает печатать скрепки((

 

Тут же дело в идее. Вполне возможно к.н условный гитлер и не был плохим человеком, возможно любил детей и подкармливал животных на улице, но у него была идея захватить весь мир. Или чикатилло,..вполне приличный человек, не исключено что помогал маме, переводил старушек через дорогу, ну только просто у него была максимизированная идея и цель "печатать скрепки"

Сообщение изменено: Andy_Two (26 марта 2023 - 09:01)

[oscid]

Вот я и говорю, тупая, бессердечная машина))

Как любит Тенминал. Зато не испытывает страданий и рационален. Ноль негатива это позитив ))

[terminalX]

terminalX, так мало того, если какой то человек, ну т.н.разработчик или Хозяин)) этого ИИ попытается запретить печатать скрепки, то он уничтожит этого человека, как персонажа который мешает печатать скрепки((

 

Тут же дело в идее. Вполне возможно к.н условный гитлер и не был плохим человеком, возможно любил детей и подкармливал животных на улице, но у него была идея захватить весь мир. Или чикатилло,..вполне приличный человек, не исключено что помогал маме, переводил старушек через дорогу, ну только просто у него была максимизированная идея и цель "печатать скрепки"

Ну да. Есть такой прикол. Когда разработчики говорят "Мы создаем AGI", люди думают, что имеется в виду какой-то суперпродвинутый чат-бот, а разработчики имеют в виду существо, пожирающее галактики. Правда, у AGI цель может быть действительно благородная по нашим представлениям, если его правильно согласовать.

Сообщение изменено: terminalX (26 марта 2023 - 11:18)

[Grillmaster]

Пидарас бруклинский отключил комменты в статусе. Чмо закомплексованое

[Andy_Two]

Как любит Тенминал. Зато не испытывает страданий и рационален. Ноль негатива это позитив ))

Ну этого мы не знаем. Возможно просто хорошо умеет скрывать свои чувства или эмоции. Или не хочет делиться ими на форуме))

[aid]

Как любит Тенминал. Зато не испытывает страданий и рационален. Ноль негатива это позитив ))

Теперь стоит извиниться перед Терминалом

[Andy_Two]

Ну да. Есть такой прикол. Когда разработчики говорят "Мы создаем AGI, люди думают, что имеется в виду какой- о суперпродвинутый чат-бот, а разработчики имеют в виду существо, пожирающее галактики". Правда, у AGI цель может быть действительно благородная по нашим представлениям, если его правильно согласовать.

Я просто к тому, что способность чувствовать и сопереживать не всегда может быть помехой выполнить задачу глобального печатания скрепок в масштабах галактики. Это у людей. А у машины тем более, ибо ни "души" ни "эго" у нее нет)

[oscid]

Теперь стоит извиниться перед Терминалом

Я про ии))