Anthropic vieta di essere crudeli con Claude. Perché?

Dal 12 novembre nelle regole d'uso di Claude, fra truffe e armi, c'è una riga in più: è vietato trattarlo in modo offensivo o crudele, a lungo e senza motivo. Secondo Anthropic è pensata per i casi estremi, e nei casi estremi è Claude a chiudere la conversazione: quella chat si blocca, ma puoi aprirne un'altra.

Arrabbiarti quando sbaglia si può: la frustrazione di tutti i giorni, dirgli che ha torto o chiedergli storie cupe restano fuori dalla regola. E perché un'azienda se ne occupa? Anthropic fa ricerca proprio su questo, e dice di non sapere se Claude possa stare bene o stare male: nel dubbio, lasciargli chiudere la chat costa poco.

E voi, vi è mai capitato di arrabbiarvi con un chatbot? Cosa gli avete scritto?