The Ink Black Heart

[arpad]

.
"‘I’ll bet you do,’ said Robin, and Pez pulled her in for another kiss. As she feigned enthusiasm, his teeth clashing with hers as he pressed her face to his, his hand at the back of her head again, Robin wished he’d stop touching her wig, and couldn’t help suspecting that she was being used, like the lager, to distract Pez from his worries. There was a certain recklessness about this no-holds-barred technique."

Роулинг, как обычно, прекрасна.

Вот примерно поэтому меня совершенно не пугает сегодняшний ИИ в качестве автора худлита. Создать и правильно ориентировать множество деталей, которые в хорошем тексте делают глубину и объем, ИИ не способен. Он может только генерировать мутный безличный наполнитель. А про "высокие небеса, божественно утверждающие Вашу божественность, что при посредстве звезд соделывают Вас достойными достоинств, достойных Вашего величия" и во времена Сервантеса писали без всякого ИИ.

Comments

[eohippus_k]

ИИ развивается. И сейчас он может то, о чем и подумать не могли еще всего несколько лет назад, а что он сможет через лет 5 - посмотрим, если доживем. И если я вижу сгенерированный контент, то это плохо сгенерированный контент, а сколько раз я не понял что это иишница, поскольку сгенерированно было хорошо, я не знаю, возможно, уже много. А в том что дальше будет больше я уверен. И меня это не радует.

[kondybas]

LLM (_не_ AI) может лишь то, что в нее впихнули при обучении, очень усредненно. Может худо-бедно подражать, но ничего оригинального она создать не может бай дезигн. Максимум - заполнить лакуні квадратно-гнездовім.

[eohippus_k]

Т.е. вы утверждаете, что он способен только к интерполяции, но принципиально не способен к экстраполяции. Если честно, не вижу никаких причин для подобного утверждения. Конечно, при попытке выдумать что-то новое вероятность ошибок будет выше, чем при компиляции старого, ну так и естественный интеллект этим грешит, это нормально. Тут, ИМХО, проблемя в целеполагании, у ИИ самостоятельных целей, я очень надеюсь, пока нет.

[kondybas]

Попітки LLM єкстраполировать получили название "галлюцинации".

Для качественной єкстраполяции нужен механизм критического анализа-синтеза. Бездумное же комбинаторно-пермутационное єкстраполирование в литературе біло вісмеяно дважді (как минимум) - Свифтом и Лемом.

[eohippus_k]

>>Попітки LLM єкстраполировать получили название "галлюцинации".
Неудачные попытки так называют. Но бывают и удачные. И я не вижу причин, по которым число неудачных не будет падать, а удачных - расти в процессе дальнейших разработок.

[kondybas]

Причина одна, и она проста.

LLM работает на лексическом уровне, тупо марковские токені, хотя и очень, очень продвинуто. А для єкстраполяции по-взрослому нужно работать с семантикой, для чего у LLM нет механизмов - бай дезигн.

[eohippus_k]

Посмотрим. Хотя, конечно, лучше чтобы вы оказались правы.

[kondybas]

А чего лучше-то? Опасаетесь, что появится Бендер, требующий убить всех человеков?

Я считаю, что будет хуже, даже если я прав. Прорву ресурсов и времени бездарно просрут, прежде, чем сообразят, что никакого интеллекта там нет. Но даже после єтого будут уговаривать: пилите, пилите, они золотіе!

[eohippus_k]

Для того чтобы выяснить есть там интеллект или нет, нужно сначала договориться, что это вообще такое, а с этим особой ясности нет, как я понимаю. Но то, что ИИ уже сильно изменил рынок труда в областях традиционно считающимися "интеллектуальными" - факт. Написание кода, иллюстрации, редактура текстов, переводы... Это то, чем я лично пользуюсь, есть еще, разумеется. Естественно, полностью заменить человека он пока не может, проверять и направлять его еще необходимо, но производительность труда возрастает иногда на порядок. И это не всегда хорошо само по себе, для начинающих программеров мест практически не осталось, например, а без них и миддлам с сениорами взяться неоткуда, и, во-вторых, по мере развития ИИ возникает соблазн перекладывать на него все больше и больше ответственности при принятии решений, и каким боком нам это вылезет я даже представлять боюсь.

[kondybas]

"..Для того чтобы выяснить есть там интеллект или нет, нужно сначала договориться, что это вообще такое, а с этим особой ясности нет, как я понимаю.."

Отчего же :) Нет ясности, как он устроен, но что єто такое - вполне тривиально.

Интеллект єто способность предвидеть поведение систем путем создания причнно-следственніх моделей єтих саміх систем. Чем на большее количество шагов вперед можно просчитать поведение системі - тем віше интеллект.

Нулевім уровнем интеллекта можно считать того, кто пилит сук, на котором сидит. Т.е. неспособен предвидеть последствия даже не один шаг вперед. Думаю, что шкала должна біть логарифмической. Логарифм от числа шагов, на которое индивид способен просчитать последствия - єто и будет его уровень интеллекта.

См. "Онотоле" - єрудиция есть, а интеллекта нет. То же и с LLM.

[eohippus_k]

>>Интеллект єто способность предвидеть поведение систем путем создания причнно-следственніх моделей єтих саміх систем. Чем на большее количество шагов вперед можно просчитать поведение системі - тем віше интеллект.
Извините, но совершенно невнятное определение, не позволяющее его практическое использование. Какие-нибудь насекомые регулярно совершенно правильно предвидят последствия своих действий, а вроде бы неглупые люди, в наличие у которых интеллекта сомнений нет, совершают нелепые ошибки в предсказаниях. Единственный известный мне способ позволяющий оценить наличие разума у объекта, это тест Тьюринга, так современный ЛЛМки проходят его без особых проблем, так что и его, пожалуй, стоит считать устатевшим.

[kondybas]

В общем-то, не проходят LLM тест Тьюринга. Их легко загнать в угол, где они начинают галлюцинировать. То, что многим кажется, будто они проходят ТТ, візвано тем, что єти сами многие ТТ пройти не в состоянии :)

[eohippus_k]

Погуглите тест Тьюринга. Это не на способность думать, что бы это ни значило, а на способность имитировать человека в суждениях. И если и человек и компьютер бредят одинаково, значит компьютер тест прошел.