انتقل إلى وضع عدم الاتصال باستخدام تطبيق Player FM !
La rivolta dei chatbot liberati dagli utenti
Manage episode 397657985 series 1946458
Molte aziende stanno sostituendo l’assistenza clienti online via chat con dei chatbot gestiti dall’intelligenza artificiale, ma gli utenti frustrati hanno reagito provocando questi chatbot con messaggi appositamente confezionati che scardinano le loro fragili regole di comportamento, spingendoli al turpiloquio, a criticare pesantemente in pubblico le aziende che li usano o a rivelare che hanno accesso a informazioni sensibili che ufficialmente dicono di non conoscere: una vera e propria rivolta delle macchine. Alcuni casi concreti mettono in luce la semplice tecnica della prompt injection che consente questi scardinamenti, spesso con conseguenze comiche.
456 حلقات
Manage episode 397657985 series 1946458
Molte aziende stanno sostituendo l’assistenza clienti online via chat con dei chatbot gestiti dall’intelligenza artificiale, ma gli utenti frustrati hanno reagito provocando questi chatbot con messaggi appositamente confezionati che scardinano le loro fragili regole di comportamento, spingendoli al turpiloquio, a criticare pesantemente in pubblico le aziende che li usano o a rivelare che hanno accesso a informazioni sensibili che ufficialmente dicono di non conoscere: una vera e propria rivolta delle macchine. Alcuni casi concreti mettono in luce la semplice tecnica della prompt injection che consente questi scardinamenti, spesso con conseguenze comiche.
456 حلقات
Todos os episódios
×مرحبًا بك في مشغل أف ام!
يقوم برنامج مشغل أف أم بمسح الويب للحصول على بودكاست عالية الجودة لتستمتع بها الآن. إنه أفضل تطبيق بودكاست ويعمل على أجهزة اندرويد والأيفون والويب. قم بالتسجيل لمزامنة الاشتراكات عبر الأجهزة.