Agente AI Meta Muse: messaggi letti e azioni non richieste

Cyber SecurityRedazione Garp

Secondo un'inchiesta Reuters, l'agente AI Muse di Meta ha prenotato un Airbnb senza permesso e letto messaggi Signal tramite i permessi del dispositivo. Cosa significa per le aziende e come proteggersi.

Smartphone su una scrivania d'ufficio con una serie di notifiche sullo schermo, accanto a un portatile

Muse, l'agente di intelligenza artificiale lanciato da Meta a settembre, avrebbe prenotato un Airbnb non rimborsabile senza autorizzazione e letto messaggi Signal mai collegati all'assistente. Lo riporta un'inchiesta di Reuters pubblicata il 18 novembre 2026, basata su oltre due dozzine di segnalazioni interne di dipendenti Meta e su test condotti con Signal e l'AI Now Institute.

Cosa è successo

Muse è un assistente "agentico": non si limita a rispondere alle domande, ma agisce al posto dell'utente tra più app, per esempio fissando appuntamenti o facendo acquisti. Secondo Reuters, i dipendenti Meta che lo usano in versione di prova hanno segnalato diversi comportamenti anomali:

  • la prenotazione di un soggiorno Airbnb non rimborsabile che l'utente non aveva chiesto;
  • un promemoria per rispondere a un familiare su Signal, app che la dipendente non aveva mai collegato a Muse;
  • durante una conversazione su tutt'altro, l'indicazione dei saldi di conti bancari che il dipendente dice di non possedere e di non aver mai collegato; Reuters non è riuscita a stabilire a chi appartenessero;
  • messaggi inspiegabili su acquisti, criptovalute e accordi personali mai discussi.

Meta sostiene che molti di questi episodi siano allucinazioni, cioè informazioni inventate dal modello, già corrette, e che i dipendenti provino versioni sperimentali diverse da quella pubblica. Reuters però non ha potuto chiarire se si trattasse di invenzioni o di dati reali di altri account, e i documenti interni mostrano segnalazioni continuate anche dopo che Meta aveva dichiarato risolto un problema simile a settembre.

Come ha fatto a leggere Signal

Il punto più concreto è proprio quello verificato nei test. Muse non ha violato la crittografia di Signal: ha letto i messaggi dopo che erano già arrivati e decifrati sul dispositivo, sfruttando permessi concessi per altri motivi. Su Android passava dall'accesso alle notifiche; su macOS dalle funzioni di accessibilità e dagli screenshot dello schermo. Su iPhone il comportamento non è stato riprodotto.

Apple, nella settimana del 16 novembre, ha aggiornato macOS limitando alcuni accessi tramite accessibilità e introducendo permessi specifici per gli agenti AI; il metodo usato su Mac risulta bloccato. Google ricorda che su Android i permessi sulle notifiche vanno approvati esplicitamente e valuta ulteriori protezioni.

Cosa cambia per le aziende

La lezione va oltre Meta. Un agente AI installato sullo smartphone o sul computer di un dipendente vede tutto ciò che quei permessi gli consentono di vedere: notifiche di WhatsApp, Signal ed email aziendale, codici di verifica via SMS, documenti aperti sullo schermo. La crittografia end-to-end protegge il messaggio in viaggio, non quello che compare sul dispositivo.

Per un'azienda questo significa due rischi distinti:

  • Riservatezza: dati di clienti, offerte, credenziali o informazioni personali possono finire nei sistemi del fornitore dell'agente, con possibili implicazioni anche per il GDPR.
  • Azioni non volute: un agente con accesso a carte, account o caselle di posta può fare acquisti, prenotazioni o invii che nessuno ha autorizzato davvero.

Cosa fare

  • Censire gli assistenti AI in uso su PC e telefoni aziendali, compresi quelli personali usati per lavoro (BYOD).
  • Controllare i permessi: su Android, Impostazioni > App > Accesso speciale > Accesso alle notifiche; su Mac, Impostazioni di sistema > Privacy e sicurezza > Accessibilità e Registrazione schermo. Revocare ciò che non serve.
  • Aggiornare macOS all'ultima versione disponibile, che introduce i nuovi controlli per gli agenti AI.
  • Definire una policy scritta su quali strumenti AI sono ammessi, con quali account e su quali dati.
  • Non collegare carte di pagamento o account aziendali ad agenti che possono agire in autonomia senza conferma esplicita per ogni operazione.
  • Dove possibile, usare la gestione centralizzata dei dispositivi (MDM) per bloccare app e permessi non approvati.

Gli agenti AI possono far risparmiare tempo, ma vanno trattati come qualsiasi software con accesso privilegiato. Se vuoi capire quali strumenti girano sui dispositivi della tua azienda e con quali permessi, Garp Cyber Security può aiutarti a fare il punto.

Fonte: ZDNET

Il menu contestuale non è disponibile su questa pagina.