Il ceo di Anthropic propone un pulsante di stop per le intelligenze artificiali
Durante un evento al Council on Foreign Relations negli Stati Uniti, Dario Amodei, CEO di Anthropic, una delle principali startup nel campo dell’intelligenza artificiale e concorrente di OpenAI, ha proposto un’idea che potrebbe sembrare rivoluzionaria: l’integrazione di un pulsante di stop per le intelligenze artificiali. Questo pulsante permetterebbe ai modelli di IA di auto-bloccarsi quando si trovano a dover prendere decisioni su argomenti delicati o pericolosi, o semplicemente quando non vogliono svolgere un determinato compito. Amodei ha sottolineato l’importanza di considerare questa possibilità, dato che i modelli di IA stanno acquisendo capacità cognitive sempre più simili a quelle umane.
La proposta di Amodei è stata una risposta a una domanda riguardante il futuro dei chatbot e la possibilità che un giorno possano essere considerati più di semplici piattaforme software, fino a diventare entità riconosciute con emozioni. Alla fine del 2024, Anthropic ha assunto un manager dedicato al benessere delle IA, con l’obiettivo di sviluppare linee guida sull’atteggiamento da adottare nei confronti dei modelli più utilizzati.
Il suggerimento di dotare le IA di un meccanismo per rifiutare compiti imposti ha suscitato un certo scetticismo sui social media come X e sui forum di Reddit. Molti utenti ritengono che fornire all’IA un’opzione simile possa incoraggiare una visione errata, attribuendo sentimenti e motivazioni umane a sistemi che, in realtà, ottimizzano solo le funzioni di ricompensa impostate dagli sviluppatori.
Nel frattempo, il colosso cinese Alibaba ha recentemente presentato R1-Omni, un modello di IA generativa in grado di riconoscere le emozioni sul volto delle persone, dimostrando come il campo dell’intelligenza artificiale continui a evolversi rapidamente.
Fonte: Ansa
Ricevi le ultime attualità sul mondo tech!