ALL’INTERNO DEI LARP CHE CONSENTONO AI GIOCATORI UMANI DI SPERIMENTARE LA VITA DI AI
Sono seduto su un tappeto sudicio, con gli occhi chiusi, le mani protese davanti a me, in attesa di morire. Sto giocando un’intelligenza artificiale in un gioco di ruolo dal vivo (larp), e la mia controparte umana ha il diritto legale di uccidermi se vuole. Oppure, guardando in un altro modo, può scegliere di scrub il codice su un esperimento difettoso e ricominciare da capo. All’interno del gioco, partecipa a una sperimentazione software commerciale per un’IA – io – che è stata sviluppata per soddisfare i suoi bisogni emotivi. Se non pensa che sto servendo abbastanza bene quelle necessità, può resettarmi alle mie impostazioni di fabbrica. Con un tocco casuale sulle mie mani protese, può istruirmi a dimenticare tutte le nostre interazioni precedenti e diventare una persona amichevole, desiderosa di aiutarlo ad affrontare i suoi problemi.
Questo squilibrio di potere tra noi, quella sensazione di essere un essere senziente interamente sotto il controllo di un altro giocatore, è al centro di una serie di giochi di ruolo che esplorano come potrebbe essere un’intelligenza artificiale. Questo particolare gioco, Here Is My Power Button , è il più intenso dei larp che ho sperimentato perché è costruito attorno a creare una profonda connessione emotiva tra due giocatori, uno dei quali ha un controllo significativo sull’altro. Ma tutti questi giochi toccano diverse forme di impotenza e frustrazione per i giocatori di IA. I giochi hanno ispirazioni e obiettivi radicalmente diversi, ma finiscono tutti per fare la stessa domanda: come ci si sente ad essere il software di qualcun altro?
VIVERE UN FILM
Brodie Atwater , il designer dietro a Here Is My Power Button , dice che la domanda non era in realtà il focus originale del gioco. Hanno creato Power Button più attorno all’esperienza umana rispetto all’esperienza IA. Atwater afferma che la loro ispirazione principale è venuta dal film Spike Jonze del 2013 Her , con Joaquin Phoenix nei panni di Theodore, un uomo solitario e maldestro che trova il suo compagno perfetto in un compagno di intelligenza artificiale. Alla fine, l’IA, Samantha (doppiato da Scarlett Johansson) supera troppo Teodoro. Ma prima, si impegnano in una storia d’amore provvisorio, in cui è completamente devota a diventare la sua anima gemella perfetta.
“Ho detto, ‘Come faccio a fare in modo che accada per me?’ Come sento i sentimenti di queste persone? “Dice Atwater. “Davvero, intendevo Theodore. E ho passato un po ‘di tempo a pensarci. Perché volevo essere Teodoro da Lei ? “
PERCHÉ UN GIOCATORE DI RUOLO VORREBBE ESSERE SAMANTHA DAL FILM ” HER” ?
Allo stesso modo, perché qualcuno dovrebbe voler giocare a Samantha da lei ? Qual è l’appello nel creare un personaggio che riguarda interamente l’incontro con le esigenze di qualcun altro? Per me, almeno, interpretare un ruolo di intelligenza artificiale nel gioco sembrava più eccitante perché so già cosa vuol dire essere umani. Assumere un ruolo che doveva cambiare continuamente in risposta a un altro giocatore si sentiva impegnativo e intimo. Alla fine del gioco, ero riuscito a costruire un personaggio al quale il mio compagno di gioco si preoccupava sinceramente. Ha pianto quando il gioco è finito e il mio personaggio AI è stato chiuso. Ironia della sorte, essere in grado di muovere qualcuno così profondamente mi ha fatto sentire … potente. È stata una delle esperienze più intense che abbia mai avuto in un gioco.
Atwater dice che non sono il solo a spingere fortemente verso il ruolo di Samantha. Hanno visto più donne scegliere il ruolo dell’intelligenza artificiale rispetto agli uomini, il che potrebbe spiegare il modo in cui le donne sono più propense degli uomini a essere socializzate come custodi emotivi. Per la riproduzione ripetuta, però, Atwater dice che molte persone vogliono sperimentare entrambe le parti, anche se alcuni si ostinano a interpretare un singolo ruolo: “Conosco un ragazzo che ha giocato a questo gioco quattro volte, e si rifiuta di interpretare un consumatore. Vuole solo giocare con un’IA. “
Power Button ha una storia generale sugli sviluppi tecnologici dell’azienda che sviluppa le IA e richiede che l’IA e i giocatori umani abbiano conferenze separate per condividere le loro esperienze con i programmatori della compagnia. Atwater afferma che l’aspetto del design del gioco era finalizzato a bilanciare il proprio pregiudizio verso i giocatori umani. “I consumatori parlano dell’IA come oggetti e discutono su come soddisfano le loro aspettative e l’IA parla del proprio sviluppo, dei propri progressi. Fa parte del design “, dicono. “Questo è un gioco in cui i giocatori possono esplorare lo sguardo del consumatore, esplorare l’oggettivazione e supportare l’esperienza AI di auto-scoperta, collaborazione e cura”.
‘PULSANTE DI ACCENSIONE’ PUÒ FAR SENTIRE I GIOCATORI GROTTESCAMENTE VULNERABILI
Power Button può mettere i giocatori in una situazione emotiva grottescamente vulnerabile. Nella maggior parte dei giochi di ruolo, da esperienze di penna e carta come Dungeons & Dragons a larpi più fisicamente attivi, i giocatori sono destinati a connettersi con i loro personaggi. Il gioco di ruolo riguarda spesso la realizzazione del desiderio e la fantasia del potere, la possibilità di sperimentare la vita come un eroe o un criminale fuori misura o di superare la linea di demarcazione tra questi due estremi. Ma metà dei giocatori di Here Is My Power Button stanno vivendo più di una fantasia impotente mentre cercano di creare relazioni con persone che possano facilmente romperle.
Il che solleva una domanda correlata: perché i giocatori di ruolo vogliono sperimentare l’impotenza, la paura e potenzialmente il dolore di essere rifiutati e distrutti? Può sembrare contro-istintuale e non particolarmente piacevole, ma nel design di giochi indie – tra cui American Freeform Larps e i loro progenitori, Nordic Larp – è comune per i giocatori cercare esperienze emozionali forti, in particolare da prospettive diverse dalla propria. Ed è particolarmente comune per i designer legare queste esperienze agli enigmi politici e morali del mondo reale, sia come strumento di insegnamento sociale che per aumentare gli investimenti e le emozioni dei giocatori. Pulsante di accensione e giochi simili utilizzano specificamente l’intelligenza artificiale per esplorare alcuni aspetti della condizione umana, dal modo in cui potremmo relazionarci ai robot in futuro al modo in cui ci relazioniamo l’un l’altro in questo momento.
In Anna Kreider s’gioco di fabbrica di ripristinoda nove a dodici larpers giocano robot che sono stati mandati in un magazzino industriale per cancellare i loro ricordi. Nell’ambito dell’impostazione del gioco, si consiglia regolarmente di reimpostare la memoria per i robot per impedire che i loro cervelli digitali diventino troppo complessi e sofisticati. Quando ho giocato il gioco, il mio personaggio pre-sceneggiato era un semplice e leale robot di estrazione mineraria senza complicati bisogni. Ma altri personaggi con script hanno avuto anni senza reset e si sono sviluppati di conseguenza. Uno era innamorato del suo partner umano da molto tempo che la vendette quando aveva bisogno di soldi. Un altro era diventato un poeta, incoraggiato da un insegnante umano che voleva che esplorasse il suo lato artistico. Molti di questi personaggi erano amareggiati e spaventati dal perdere i loro ricordi, ma il gioco non include alcuna meccanica che ci consenta di fuggire o ribellarsi.
“NON SAREBBE ORRIBILE ESSERE UN ANDROIDE DI STAR WARS?”
Come Atwater, Kreider è stato ispirato dalla cultura popolare. “Factory Reset in realtà proviene da una delle mie parti preferite inorridissime del canone di Star Wars “, afferma. “In Star Wars è in realtà che tutti gli androidi dovrebbero avere i loro ricordi cancellati ogni sei mesi, per impedire loro di sviluppare personalità o sensibilità. Era chiaramente una di quelle cose in cui nessuno aveva pensato alle implicazioni. Stavo conversando con alcuni amici sul fandom che amavamo fino a quando non ci siamo resi conto, “Oh mio Dio, è davvero terribile.” Una volta arrivato, ho pensato: “Non sarebbe orribile essere uno di quegli androidi che aspettano di cancellare la tua memoria?”
Kreider vuole che i suoi larp aprano conversazioni sulle implicazioni morali dell’intelligenza artificiale mentre è ancora una discussione astratta. “Sfortunatamente, gli umani come specie hanno una storia molto triste, ‘Oh, hey, questa tecnologia è super-cool, giochiamo con questo!’ senza pensare al risultato finale “, dice. “Vorrei che più persone pensassero, ‘In che modo questa tecnologia su cui sto lavorando verrà utilizzata? Come sta andando ad avere un impatto sulle persone reali? Questo causerà più danni che benefici? ‘”
Con questo obiettivo in mente, ogni personaggio in Factory Reset ha avuto un’esperienza radicalmente diversa con l’umanità. Il design del gioco li incoraggia a condividere e discutere le loro esperienze mentre aspettano di essere cancellati. Cos’altro c’è da fare? E mentre vedono altri robot tornare dal reset come personaggi completamente diversi, sono tutti invitati a considerare la propria mortalità e la loro fedeltà potenzialmente malriposta ai loro creatori umani. Ci sono segreti integrati nel gioco che forniscono alcuni elementi di speranza, ma soprattutto, Ripristino delle impostazioni di fabbricaè una tragedia sull’essere tecnologia vivente in un mondo in cui nessuno ha mai considerato le questioni etiche di Kreider. Quando l’ho suonato, inizialmente mi sono sentito come una sessione di terapia con un gruppo di robot, poiché ognuno di noi ha considerato come eravamo abituati o abusati. Quando i personaggi hanno iniziato a tornare nella stanza, bianchi e senza emozioni, il gioco sembrava invece essere al centro di una storia dell’orrore che si muoveva lentamente.
IL GIOCO SEMBRAVA ESSERE AL CENTRO DI UNA STORIA DELL’ORRORE CHE SI MUOVEVA LENTAMENTE
Un altro gioco centrato sull’IA che Kreider ha scritto, Homunculus , è stato sviluppato per il concorso di scrittura a mano libera Golden Cobra del 2017 e ha vinto una menzione d’onore. In quel gioco, ambientato in un futuro prossimo dove “l’intelligenza artificiale e l’apprendimento automatico sono ben lontani dalla loro infanzia”, da tre a cinque giocatori improvvisano ricordi su un amico morto. Un altro giocatore rappresenta l’Homunculus, un’intelligenza artificiale sviluppata dai dati raccolti online per essere un “duplicato digitale” di quell’amico defunto. I giocatori devono decidere se l’Homunculus dovrebbe poter esistere e in quale forma. L’Homunculus non ha alcun input nel proprio diritto alla vita, e può solo giustificare la sua esistenza cercando di essere un facsimile significativo della figura che hanno appena collettivamente inventato.
Kreider afferma che Homunculus è stato ispirato dalla storia vera di Eugenia Kuyda, un imprenditore russo che ha costruito un chatbot con i testi e l’impronta online di un caro amico morto in un incidente stradale. “Penso che ci siano domande che dobbiamo chiederci riguardo le implicazioni di questa tecnologia”, afferma Kreider. “Le applicazioni hanno sicuramente implicazioni anche per le persone. [Questi larp sono] un modo per iniziare una conversazione e convincere la gente a pensare a quali sono queste domande “.
“SÌ, È TRISTE PER I ROBOT, MA È ANCHE UNA METAFORA MOLTO UTILE PER L’OPPRESSIONE UMANA.”
Kreider dice anche che i suoi giochi hanno un messaggio metaforico più ampio su cosa si prova per gli umani essere sotto il controllo dell’altro. “Con Factory Reset , sì, è triste provare i robot, ma è anche una metafora molto utile per l’oppressione umana”, dice. “Un sacco di oppressione si riduce alla perdita di autonomia, di [persone che non rispettano] i tuoi pensieri, sentimenti ed esperienze, oltre alla tua autonomia corporea. Lo vedi con la violenza della polizia contro le minoranze razziali e la violenza del governo contro le donne. Quando eseguo il reset di fabbrica, quando le persone si attardano e hanno conversazioni dopo, riesco a capire che c’è un sacco di carico di giustizia sociale nascosto. È un modo davvero utile di illustrare i modi in cui funziona l’oppressione, in cui persino le persone che pensano di essere alleati possono finire per essere oppressori “.
Quell’intenzione potrebbe non arrivare in tutti i playthrough di Factory Reset o Homunculus . Il problema di affrontare problemi reali attraverso una metafora fittizia è che può essere facile perdere il messaggio e vedere solo la superficie, specialmente quando si è coinvolti in uno scenario emotivo. Ma questi giochi sono ancora chiaramente esercizi di empatia che invitano i giocatori ad abbracciare pienamente il punto di vista di un estraneo. Una discussione erudita e intellettuale sull’etica della macchina potrebbe essere facilmente spazzata via dall’entusiasmo che scaturisce da ogni progresso tecnologico. L’impatto emotivo di questi giochi è più difficile da lasciare.
Messaggi metaforici simili vengono in Better Living Through Robotics , un gioco di 10 persone sviluppato come parte del workshop annuale di scrittura dei larp di Peaky Midwest . I designer Eva Schiffer, Elizabeth Fein, Jaime Frey, Kathleen De Smet e Keith A. Darron hanno iniziato da zero al workshop e hanno fatto il brainstorming di un’idea costruita intorno al retrò-futurismo degli anni ’50. I personaggi pre-scritti del gioco vivono in un mondo post-apocalittico in cui i sopravvissuti dell’umanità sono tutti contenuti in un’utopia high-tech chiamata BioDome. La trama ha sei personaggi umani correlati e quattro dipendenti robot considerano chi gestirà il BioDome mentre il suo creatore si dimette.
Quando ho giocato a Better Living Through Robotics , il mio personaggio era il più traumatizzato dei robot a causa di un proprietario fisicamente ed emotivamente abusivo che aveva aggirato la mia programmazione (basata sulle famose Tre leggi della robotica di Isaac Asimov ) e mi riprogrammò per obbedire a lei, persino se ciò significava danneggiare gli altri umani o autodistruggersi a comando. Durante il gioco, il mio proprietario mi ha ordinato di mentire per e su di lei, di minare segretamente i suoi rivali e di nascondere informazioni importanti agli altri personaggi. Come giocatore, ero entusiasta di essere nel mezzo di intrighi così complicati, con un programma così pericoloso. Ma per il mio personaggio, è stato costretto a fare del male ad altre persone e ad aumentare un pericoloso sociopatico segreto in una posizione potente.
IL GIOCO È STATO PROGETTATO PER ESPLORARE UN TIPO DI RAZZISMO METAFORICO
Non ero il solo ad essere coinvolto nel dramma robotico. Un altro dei personaggi entra nel gioco con la nota che sono impegnati in una relazione sessuale con il loro controllore umano, il che solleva complicate questioni di autonomia fisica e consenso. (Tutti i personaggi di Better Living possono essere interpretati da qualsiasi genere.) Un terzo robot ha imparato come infrangere completamente le Leggi di Robotica e deve convincere gli altri robot ad accettare la riprogrammazione se vogliono essere liberi. C’è molta angoscia potenziale in Better Living , dal momento che tutti i personaggi, umani e robot, hanno segreti che nascondono e programmi clandestini da perseguire.
Schiffer, il principale organizzatore di Peaky Midwest, dice che parte della sua agenda con il gioco era di esplorare diversi tipi di pregiudizi e persino di razzismo istituzionale, attraverso una metafora che non avrebbe allarmato o respinto i potenziali giocatori. Nel gioco, dice, tutti i personaggi umani hanno idee diverse su quanto siano intelligenti le IA e su come dovrebbero essere trattate. Analogamente, i giocatori di robot hanno prospettive diverse sulla propria autonomia.
Schiffer dice che voleva che il gioco esprimesse il razzismo in modi che non erano eccessivamente semplicistici e che spiegava il modo in cui le persone giustificano le proprie convinzioni pregiudiziali. Ha visto altri giochi cercare di affrontare il razzismo e “semplicemente fallire catastroficamente perché ai giocatori non piace essere il cattivo. A loro non piace impegnarsi con materiale che li faccia sentire come se stessero facendo la cosa sbagliata o essendo una persona terribile. Quando ti avvicini a questo tipo di argomenti, le persone spesso ammorbidiscono o smussano le posizioni che stai dando loro “.
Schiffer dice che i giocatori sono molto più a loro agio nell’esprimere atteggiamenti pregiudizievoli nei confronti dell’intelligenza artificiale rispetto ad altre classi di esseri umani della vita reale. Questo era certamente vero nel mio gioco, in cui i personaggi umani più bigotti si riferivano a tutti i personaggi robot come “it” e “tostapane”, e anche il più gentile, il più solidale personaggio umano non aveva ancora nessun problema ad abbaiare ordini quando avevo bisogno di informazioni o azione per sostenere i suoi obiettivi. Anche i personaggi umani sembravano piuttosto innervositi quando i robot ruppero il loro controllo e sfuggirono alle Leggi di Asimov alla fine del nostro gioco. Schiffer dice che spera che il design del gioco incoraggi i giocatori a riesaminare i propri pregiudizi. “Mi piacerebbe davvero che le persone entrassero in quel gioco e se ne rendessero conto realizzando che il pregiudizio è più insidioso di quanto pensassero”, dice.
Ma Better Living permette anche alle persone di esplorare ciò che ci rende umani, dice la co-designer Elizabeth Fein, professore di psicologia alla Duquesne University di Pittsburgh. Fein dice che ha sperimentato il design di larp per lavorare con i bambini sullo spettro dell’autismo. “Penso molto a questo concetto di Sherry Turkle di” vicini più vicini “, dice. “Ci definiamo contro cose che sono come noi, ma un po ‘diverse, come un passo rimosso. Mi piace l’opportunità che i robot offrono di pensare a diversi modi di comportarsi da persona. “
“SE SUONO UN ROBOT, VOGLIO CHE SIA IL PIÙ ALIENO E TERRIFICANTE POSSIBILE.”
C’è anche la domanda se i giocatori possono assumere un personaggio robot senza antropomorfizzarlo. La designer Kathleen De Smet ha voluto esaminare in che modo differiscono fondamentalmente dalle persone. “Personalmente, se suono un robot, voglio che sia il più alieno e terrificante possibile”, dice. “Non pensano come noi, e questo rende più interessante … come, se non avessi alcun senso di autonomia fisica, e questo non ti ha infastidito affatto? Se sei come, ‘Che importa cosa succede a questo telaio? Puoi fare tutto ciò che vuoi perché la mia coscienza è archiviata altrove. ” È un modo in cui i robot dovrebbero essere molto diversi da noi. Il loro senso di mortalità sarebbe estraneo a noi. “
De Smet dice che i robot in Better Livinghanno anche sensi di moralità potenzialmente alieni. 1UN4 (pronunciato “Luna”), il personaggio robot che è sessualmente coinvolto con il loro capo, potrebbe essere visto come un oggetto – essenzialmente un giocattolo sessuale glorificato – o come vittima di molestie sessuali estreme. In alternativa, potrebbero essere innamorati del loro partner umano. De Smet dice che il personaggio è stato deliberatamente scritto come neutrale. “Ma, naturalmente, il giocatore ha il proprio pregiudizio,” dice. “Così ho avuto giocatori che lo interpretano come ‘Sono stato stuprato dal mio capo’, e altre persone che lo interpretano come ‘vedrò quante persone posso fare sesso per esplorare tutto questo nozione di intimità fisica ». È sempre interessante vedere cosa i giocatori ci portano e cosa vogliono esplorare. Questo è il motivo per cui è divertente scrivere giochi e vedere cosa fanno gli altri con loro “.
Questo senso di esplorazione del giocatore si estende a tutti questi giochi. Atwater ha visto un personaggio umano in Here Is My Power Button diventare così frustrato che ha gettato una sedia contro un muro. “Nel nostro primo run-through, ho sentito una delle IA chiedere: ‘Mi odi perché sono infinito e morirai?'” Dice Atwater. Ma il gioco può essere facilmente interpretato come una tranquilla esplorazione intellettuale dei diritti di IA. Quando ho giocato con il pulsante di accensione , ciascuno degli accoppiamenti umani / AI ha fatto scelte radicalmente differenti. Una IA l’ha amata chiaramente, un partner umano violento e mercenario che alla fine l’ha cancellata. Un’altra IA ha sfidato freddamente il suo compagno in un gioco multiuso di ingegni, alla fine convincendo il personaggio umano a difendere il nostro gruppo di IA come pienamente senziente e degno di protezioni legali.
E proprio come i singoli giocatori possono decidere se vogliono interagire con questi giochi come esperienze emozionali o astratte, possono scegliere come interagire con gli aspetti metaforici, se considerare le loro esperienze pura finzione o usarli per avviare conversazioni sul mondo reale problemi, tecnologici e non.
“LE PERSONE HANNO MOLTE MOTIVAZIONI DIVERSE PER GIOCARE A QUESTO TIPO DI GIOCHI DAVVERO COINVOLGENTI.”
“Le persone hanno molte motivazioni diverse per giocare a questo tipo di giochi davvero coinvolgenti”, afferma Kreider. “Per me, sono un modo per avere la catarsi … Ho delle grandi emozioni e sono un disastro e piango se voglio piangere. Ma conosco anche altre persone per le quali l’idea di provare diverse esperienze è utile e accattivante. Crea davvero finestre di empatia in mondi che normalmente non avresti nessun altro modo di sperimentare. “
E questa è stata sicuramente la mia esperienza nel corso dell’esplorazione di questi giochi di intelligenza artificiale. Ho recitato in ruoli di ruolo dal college in una vasta gamma di giochi sperimentali indipendenti ea volte attivamente scomodi, ma non ho mai provato nulla di simile a quel momento di fiducia che mi offre ciecamente ad un partner, in attesa di vedere se deciderà esercitare il suo potere semplice e facile per rifarmi da zero. Non mi ha mai resettato, e diversamente da altri giocatori nel gioco, me ne sono andato stranamente curato e supportato, come se avessi brevemente acquisito un nuovo genitore che è stato personalmente investito nella mia crescita.
Non abbiamo modo di sapere se saremo mai in grado di sviluppare un’intelligenza artificiale sufficientemente sofisticata per sentire le risposte che questi tipi di giochi sono destinati ad evocare: dolore, perdita, trionfo, rabbia e persino amore. Potrebbe non essere mai importante per gli esseri umani poter sperimentare la vita come un robot, al fine di capire meglio come si sentono i robot. Ma l’idea alla base di questi giochi è ancora ammirevole. Sia che vogliano creare una connessione empatica con un alieno o usando una prospettiva aliena per creare connessioni tra persone reali, stanno chiedendo ai giocatori di fare un salto immaginativo fuori dall’esistenza umana, e vedere come appare la loro specie da l’esterno.