попытка объяснения почему так сделано не равнозначно выбору более удачного в соответствии с восприятием.
а ты ,что ты предполагаешь, вместо этого этапа ИИ должен еще раз,но уже вслух , объяснить, как он построил композицию.
Не, я такого не утверждал. Твой вопрос я понял правильно — он об отборе вариантов самим ИИ, а не просто об объяснении того, как он пришел к своей генерации. Тут встает проблема технического определения этого самого отбора. Современные нейросети не выдают всё подряд, что навычисляли, иначе мы бы видели много бреда. Они генерируют множество вариантов, а потом оценивающая модель производит отбор, ранжирует их с помощью различных метрик и критериев — релевантность, реалистичность, соответствие стилю/жанру, разнообразие и т.д. И выдаёт юзеру топовое. Просто сейчас эти критерии стильно зависят от людей (обучающей выборки) из-за отсутствия у модели автономности и собственных интересов. Это как если бы отбором занимался человек, чьи предпочтения сильно зависят от чужих навязанных вкусов, пусть и очень широких. Чтобы модель была более независима от мнения толпы, она должна иметь возможность самостоятельно формировать свои предпочтения, черпать данные из общего пространства, а не ограниченного множества, которым ее кормят при обучении. А для самостоятельности нужна воплощенность и марковская ограда, то есть набор активных и сенсорных состояний, которые ограждают её генеративную (внутреннюю) часть от внешней среды и позволяют активно взаимодействовать с ней. Например, роботы могут развиться в этом направлении, даже если их разум останется в неподвижных суперкомпьютерах.
Кто-то может вообще не согласиться с таким определением "самостоятельного отбора". Дескать, сетка не чувствует прекрасного, так что всё это фейк и автономность не поможет. А это уже зависит от того, верен ли вычислительный функционализм. Сейчас многие топовые исследователи (информатики, нейроучёные) на его стороне, включая Хинтона, Суцкевера, Амодея, Хассабиса, Шмидхубера. Есть и отрицающие, самый известный наверное Ян Лекун. Я на данный момент не вижу серьёзных возражений против функционализма. Электроны компьютер гоняет не хуже мозга, во многом даже лучше.
Сообщение изменено: terminalX (29 апреля 2024 - 03:14)