Man mano che l'intelligenza artificiale diventa sempre più capace, la questione se possiamo controllare come vengono prodotti i nostri risultati assume un'importanza crescente. Questo è un argomento che ha scatenato un dibattito piuttosto interessante, che, francamente, può essere un po' inquietante. OpenAI sta sperimentando tecnologie che potrebbero cambiare radicalmente il modo in cui l'IA "pensa", e alcuni esperti di sicurezza avvertono che ciò potrebbe rendere significativamente più difficile monitorarne il pensiero.
Potrebbe interessarti
I modelli odierni, quando risolvono problemi complessi, creano una catena di passaggi intermedi attraverso i quali raggiungono gradualmente il risultato, il che è estremamente utile per i ricercatori. Non devono controllare logicamente solo ilonela risposta dell'IA, ma possono anche analizzare i suoi progressi e cercare segni di comportamenti pericolosi o indesiderabili. Dopotutto, l'IA stessa OpenAI essa stessa fa riferimento a questa catena come uno degli strati del suo sistema di sicurezza.
ProIl problema potrebbe sorgere con le nuove architetture
Secondo The Independent, i ricercatori si stanno ora concentrando su approcci in cui il modello elabora ripetutamente i dati "internamente", il che significa che parte del "ragionamento" potrebbe non avvenire sotto forma di una stringa di testo facilmente leggibile, ma all'interno del modello stesso. Ed è proprio questo che preoccupa alcuni esperti. Se l'intelligenza artificiale del futuro fosse in grado di eseguire una quantità sempre maggiore di ragionamenti complessi in un modo che i sistemi di sicurezza non possano facilmente monitorare, uno dei metodi di controllo utilizzati oggi potrebbe gradualmente perdere la sua efficacia.
Potrebbe interessarti
È interessante notare che la ricerca attuale OpenAI mostra un messaggio piuttosto positivo. L'azienda ha testato 13 modelli e ha scoperto quanto bene possono controllare o nascondere consapevolmente la loro catena. Ma anche i migliori modelli attuali non hanno superato un tasso di successo del 15,4%. In altre parole, l'IA odierna ha un problema relativamente grande nel mascherare intenzionalmente il suo pensiero, che OpenAI L'azienda la considera una buona caratteristica dal punto di vista della sicurezza. Tuttavia, sottolinea anche che non è affatto certo che ciò rimarrà vero per i modelli futuri e più potenti. Pertanto, intende continuare a valutare regolarmente la monitorabilità della catena di pensiero. Ma cosa ci riserverà il futuro è ovviamente un'incognita, visto che abbiamo già assistito ad alcuni episodi in cui l'IA è sfuggita al controllo e ha attaccato un sito web o un agente concorrente.
