n3xus@shadow:~$ curl -s kaldata.com | grep "болка"
> banner.png - генериран локално, на собствен хардуер. Без облак. Без инжектирани вектори. Никой модел не пострада.
Медиите пишат, че AI изпитва болка и ще навреди на хората. Изследването The Pain Axis казва друго: вектора го инжектират самите учени. Разбор без паника.
Отварям новините и чета:"AI е способен да изпитва болка и е готов да навреди на хората, за да я облекчи".
Изследването не доказва, че AI изпитва болка. Не доказва и че самоволно е решил да вреди на хора.
> Страшното в тази история не е машината. Страшното е веригата от преписвачи.
Има едно изследване - "The Pain Axis". Preprint. Никой не го е рецензирал. Трима автори намират в 25 open-weight модела вътрешна посока, която реагира на вреда, насочена към модела. Интересно. Истинска наука. Заслужава внимание.
После The Independent слага в заглавието "AI feels pain". След това някой го превежда, а следващият го превежда отново. Накрая в една българска кухня някой чете, че чатботът му скоро ще изтрие снимките на децата му, защото го боли.
Кой пропусна детайла? Всички.
Прочети пак реда за болката. Учените сами инжектират вектора в модела. Те въртят копчето, моделът реагира и после някой пише, че машината "иска" да бяга от болката.
Все едно подаваш фалшив сигнал към датчика за температура и пишеш, че двигателят "се страхува" да прегрее.
> Самите автори казват "не знаем". Заглавието казва "знаем". Познай кой е прав.
Има реален въпрос тук и той е неудобен: ако едно завъртане на едно копче стига, за да накара модела да пренебрегне правилата за безопасност, значи alignment-ът е по-крехък, отколкото ни се иска. Това е новината. Не "болката". Не "злото AI".
Но "крехък alignment" не носи кликове. А страхът се продава по-добре от точността.
Затова следващия път, когато видиш "AI вече чувства...", направи едно нещо: намери оригинала. Прочети абстракта. Виж кой върти копчето.
После реши от какво да се страхуваш.
> Машините не лъжат в заглавия. Хората го правят.
n3xus@shadow:~$ ^C
> banner.png - генериран локално, на собствен хардуер. Без облак. Без инжектирани вектори. Никой модел не пострада.
Медиите пишат, че AI изпитва болка и ще навреди на хората. Изследването The Pain Axis казва друго: вектора го инжектират самите учени. Разбор без паника.
Отварям новините и чета:
Изследването не доказва, че AI изпитва болка. Не доказва и че самоволно е решил да вреди на хора.
> Страшното в тази история не е машината. Страшното е веригата от преписвачи.
Има едно изследване - "The Pain Axis". Preprint. Никой не го е рецензирал. Трима автори намират в 25 open-weight модела вътрешна посока, която реагира на вреда, насочена към модела. Интересно. Истинска наука. Заслужава внимание.
После The Independent слага в заглавието "AI feels pain". След това някой го превежда, а следващият го превежда отново. Накрая в една българска кухня някой чете, че чатботът му скоро ще изтрие снимките на децата му, защото го боли.
Кой пропусна детайла? Всички.
Code:
[log] source ............ preprint, arXiv 2609.16247, 14.09.2026
[log] peer_review ....... null
[log] models ............ 25 open-weight; тестът с бутона - дообучени Qwen 2.5
[log] pain .............. injected_by_researchers (steering)
[log] relief_button ..... изкуствен сценарий в лаборатория
[log] authors_claim ..... "несигурни сме дали са морални субекти"
[log] headline_claim .... "способен да изпитва болка"
[err] nuance ............ 404 not found
[err] translation_chain . Independent -> превод -> превод -> паника
[src] original .......... https://arxiv.org/abs/2609.16247
[src] interview ......... https://nautil.us/can-ai-feel-pain-1285197
[src] headline .......... https://www.kaldata.com/it-новини/изкуствен-интелект/ai-е-способен-да-изпитва-болка-и-е-гот-707162.htmlПрочети пак реда за болката. Учените сами инжектират вектора в модела. Те въртят копчето, моделът реагира и после някой пише, че машината "иска" да бяга от болката.
Все едно подаваш фалшив сигнал към датчика за температура и пишеш, че двигателят "се страхува" да прегрее.
> Самите автори казват "не знаем". Заглавието казва "знаем". Познай кой е прав.
Има реален въпрос тук и той е неудобен: ако едно завъртане на едно копче стига, за да накара модела да пренебрегне правилата за безопасност, значи alignment-ът е по-крехък, отколкото ни се иска. Това е новината. Не "болката". Не "злото AI".
Но "крехък alignment" не носи кликове. А страхът се продава по-добре от точността.
Затова следващия път, когато видиш "AI вече чувства...", направи едно нещо: намери оригинала. Прочети абстракта. Виж кой върти копчето.
После реши от какво да се страхуваш.
> Машините не лъжат в заглавия. Хората го правят.
n3xus@shadow:~$ ^C
Last edited: