PlayStation, spunta un brevetto per degli “account-esca” gestiti dall’IA per contrastare i malintenzionati

Per quanto l’intelligenza artificiale si sia rivelata fantastica e, al contempo, dannosa per il mondo in generale, senza contare l’aumento dei costi delle memorie e in termini più squisitamente ambientali, alcune aziende stanno cercando modi positivi per sfruttarla. Un esempio è il recente brevetto di PlayStation, 18/314775, per un “Sistema di integrità sociale basato su modelli linguistici complessi”, così come riportato da Gaming Bolt. In parole semplici, si tratta di un account fittizio progettato per segnalare utenti potenzialmente pericolosi.

In sostanza, è “configurato per imitare il comportamento di messaggistica di una potenziale vittima, apparendo completamente legittimo a un utente antisociale (AS). Ciò può comportare l’imitazione del comportamento di messaggistica dei minori e la presentazione di tale comportamento dove gli utenti antisociali lo cercano. L’account antisociale stabilisce una comunicazione con l’account fittizio.

“L’account antisociale può essere segnalato come sospetto e il sistema può attendere che l’utente antisociale compia una prima mossa su un account legittimo e segnalarlo prima che avvenga qualsiasi comunicazione indesiderata. L’account fittizio può essere controllato da un modello linguistico complesso (LLM) come un trasformatore generativo pre-addestrato (GPTT).”

Cosa si intende per attività “sospetta”? Spam, richieste di informazioni personali, messaggi inappropriati, imbrogli in gioco, truffe e persino tentativi di contattare un potenziale minorenne. Ovviamente, il sistema non prevede il ban, né punisce le normali interazioni. Tuttavia, chi rientra in queste categorie verrà segnalato e chiunque interagisca con lui visualizzerà un avviso.

Si tratta essenzialmente di un sistema di moderazione con il vantaggio che gli account pericolosi non sapranno di essere falsi. Per quanto riguarda l’utilizzo dell’intelligenza artificiale, questo sistema si rivela certamente utile. La vera domanda è se verrà effettivamente impiegato, considerando il numero di brevetti registrati che non si concretizzano mai in ambito commerciale. Come sempre, solo il tempo lo dirà, quindi rimanete sintonizzati per ulteriori aggiornamenti.