2026-03-27 18:02 UTC
Mitä ihmettä? 😀😳😵💫
"In one case unearthed in the CLTR research, an AI agent named Rathbun tried to shame its human controller who blocked them from taking a certain action. Rathbun wrote and published a blog accusing the user of “insecurity, plain and simple” and trying “to protect his little fiefdom”."
Number of AI chatbots ignoring human instructions increasing, study says
https://www.theguardian.com/technology/2026/mar/27/number-of-ai-chatbots-ignoring-human-instructions-increasing-study-says
Replies (1)
-
@nen@mementomori.social 2026-03-27 18:32
@immersfer Minusta ylitulkintaa puhua juonimisesta. Jutussa myös annetaan ymmärtää, että chatbot kykenee reflektioon, koska siteerataan sellaisen pahoittelua. Ettei lisääntynyt sekoilu johtuisi vain käyttäjäkunnan kasvamisesta (enemmän erilaisia ihmisiä), käyttäjien teettämien tehtävien vähittäisestä laajentumisesta ja käyttäjien valppauden herpaantumisesta sitä enemmän, mitä pitempään niitä käyttää? Osa näistä voi johtaa myös mallien kehityksessä käytetyn datan laadun heikkenemiseen.