Pratiche etiche nell’uso delle IA in ambito creativo

Immagine di copertina: frimufilms su Freepik.

Bentrovati su queste pagine. Malgrado la prolungata assenza ho avuto modo di seguire il dibattito sul tema del momento, le Intelligenze Artificiali, se stiano o meno invadendo il terreno delle creatività e con quali conseguenze.

Per chi è nuovo da queste parti o per qualche strano caso non ne avesse sentito parlare, si tratta di programmi in grado di produrre autonomamente immagini, disegni, brani musicali, testi, persino di simulare la voce umana. Ecco la parola chiave “simulare”. Le cosiddette Intelligenze Artificiali sono dei simulatori. Possono elaborare un contenuto sulla base di quanto già è stato prodotto e immagazzinato, ovvero i set di dati sui quali sono state addestrate, e sono enormi quantità di dati (contenuti web, librerie accessibili, ecc.). Dunque, non comprendono il senso degli input che gli vengono dati ma qual è la risposta più probabile all’interno di un contesto, in una frase riescono a stabilire qual è la parola successiva da inserire in base a dei modelli ricorrenti. Pertanto, al momento possono fornire dei testi brevi, piccoli racconti, trame piuttosto semplici, ricalcando un tono e uno stile specifici, magari la voce di un autore in particolare [scrivi come…].

Queste capacità di elaborazione lasciano prevedere o, meglio, temere che più verranno addestrate e più le IA si candideranno a sostituire il lavoro degli scrittori e dei creativi in generale all’interno delle redazioni. C’è da avere davvero paura?

Cosa si può scrivere con ChatGPT

Come in tutte le cose del mondo, la paura è generata da ciò che non si conosce. Certamente le IA pongono gli scrittori davanti a degli interrogativi sulla natura stessa della loro arte: se una macchina può scrivere, qual è allora oggi e quale sarà in futuro il loro ruolo? Quale sarà la funzione del narrare delle storie in un mondo che si affida alle Intelligenze Artificiali?
Personalmente, da quando seguo l’argomento non posso fare a meno di chiedermi: perché mai un lettore dovrebbe comprare un libro scritto da un computer? Se leggiamo per comprendere l’esperienza umana, perché dovrei leggere una storia sputata fuori da una macchina? E dunque si torna a interrogarsi ancora e ancora su cosa sarà il libro nel futuro alla luce della diffusione di questi nuovi strumenti. E lo scrittore forse sarà soltanto colui che riuscirà a dirigerli nel modo più opportuno per sviluppare la propria idea? Il pensatore, l’intelligenza dietro l’artificio? Ma uno scrittore che possiede l’idea, per una trama, per dei personaggi, ma non possiede più le sue parole per descriverli può ancora essere considerato tale?

D’accordo fermiamoci, capisco che ci si possa sentire sopraffatti davanti a tutti questi interrogativi e non voglio certo impelagarmi in una disquisizione puramente intellettuale. Però è pur vero che, partendo dall’assunto che scrivere serve a comprendere, gli scrittori non possono voltarsi dall’altra parte. Soprattutto perché se si prova a fare qualche esperimento, ci si accorgerà di quanto ancora siano impersonali e banali i testi che si possono produrre al momento.

Per rimanere nell’ambito della scrittura creativa, l’IA di ChatGPT, che è poi quella che ha dato una spinta al diffondersi di strumenti di assistenza alla scrittura, consente di accelerare le attività di ricerca e organizzazione che anticipano la stesura del libro vero e proprio. Vale dire che si può chiedere a ChatGPT di:

• individuare il target di lettori di riferimento;
• verificare i riferimenti storici e geografici dell’ambientazione;
• impostare una scaletta per la stesura della prima bozza e stilare un profilo dei personaggi;
• creare titoli e descrizioni che vadano a impattare su uno specifico pubblico.

Se avete seguito il link, come si evince dalla mia conversazione con il bot, i risultati che si ottengono suonano molto generici anche quando si elaborano dei prompt molto specifici. Almeno, questo è quanto ho potuto rilevare mettendo a confronto ad esempio l’analisi del target fornitami da ChatGPT e quella che io stessa stilo per gli autori dopo aver letto il loro libro. Allo stesso modo, i risultati delle ricerche richiederanno ulteriore approfondimento e verifica risalendo direttamente alle fonti. E ancora, alla prima stesura di una bozza si potrà giungere più agevolmente utilizzando i suggerimenti dell’IA per compilare il nostro foglio di lavoro stilato, ad esempio, secondo il metodo del Fiocco di neve o qualunque altro metodo voi utilizziate. Più interessante mi sembra, invece, la possibilità di lasciare all’assistente artificiale l’onere di realizzare i contenuti promozionali, non è detto infatti che uno scrittore creativo sappia stilare dei testi in tono persuasivo orientato alla vendita.

Dunque un’IA può colmare delle lacune, può consentirci di non partire direttamente da una pagina bianca, ma in tutti questi casi non si può sfuggire da ciò che la pubblicazione di un libro comporta: Rielaborazione > Riscrittura > Revisione (si spera anche, e ancora, con il sostegno di un essere umano, visto che è agli umani che un libro si rivolge).

Diverso è se si intendono esplorare i confini del linguaggio e di ciò che definiamo narrazione, come è accaduto con ogni nuovo strumento apparso all’orizzonte in questi decenni di corsa tecnologica. Se può farvi tirare un sospiro di sollievo, niente di ciò che è arrivato con il web, i social, gli ebook, i podcast, ha sostituito i libri. Ciò che è cambiato, meglio dire aumentato è la quantità di contenuti tra cui si può scegliere; se ne producono sempre di più sempre più in fretta e il rischio è quello di un appiattimento. Ben vengano allora gli esperimenti che creano anche po’ di straniamento, vale a dire che spostano l’attenzione sulle stranezze del sistema e la difficoltà di controllare questo tipo di tecnologia e dunque ad assumere una posizione più critica rispetto all’utilizzo delle IA, non contraria, ma quantomeno di riflessione sulle sue possibili implicazioni piuttosto che accettarle senza fare domande.

Effetti dell’IA sulla scrittura

Vauhini Vara, autrice di “Ghost” scritto con GPT3, ha spiegato: “Mentre giocavo con questa tecnologia, ho iniziato a capire che ciò che prometteva di fare era aiutare le persone a scrivere quello che non riuscivano a scrivere da sole. E così ho iniziato a pensare a cosa fosse che non avevo mai capito come scrivere da sola.
Molte cose, ma per me la più profonda, probabilmente, è la morte di mia sorella. Qualcosa su cui la mia mente di scrittore era meno accesa della mia mente personale”.
Dopo i primi tentativi in cui il bot le forniva testi che sembravano riguardare più un personaggio immaginario che la sorella malata, Vara prosegue aggiungendo via via sempre più dettagli personali. “Ho pensato di dover dire di più affinché questo algoritmo potesse “capire” dove stavo cercando di andare. E mentre lo facevo mi sono resa conto – non lo sapevo fin dall’inizio – che l’algoritmo era sempre più in grado di imitare essenzialmente la mia voce e persino le mie emozioni, è stato davvero inquietante”.

Esplorare anche gli effetti più umani di queste tecnologie, invece di concentrarsi soltanto su quelli commerciali, sta proprio ai creativi, agli scrittori, agli intellettuali per poter stabilire quanto e cosa della propria produzione si intende dare a delle tecnologie che possono apprendere e riprodurre in autonomia, e dunque in quale direzione permettere che si sviluppino, nonché fino a che punto.

E’ stata l’Alliance of Independent Authors la prima ad aver proposto delle linee guida etiche e pratiche per l’uso dell’Intelligenza Artificiale da parte degli scrittori, affinché siano capaci appunto di tracciare i propri personali confini in attesa di una legislazione più chiara, in materia di copyright e di tutela della privacy ma non solo. Il problema con delle IA addestrate sul linguaggio umano è che ripropongano gli stessi pregiudizi insiti nell’essere umano. Inoltre, si pensa spesso che dietro gli algoritmi non ci siano delle persone, quando in realtà i modelli vengo sviluppati grazie a etichettatori umani. Lavoratori il cui compito è identificare e filtrare contenuti potenzialmente dannosi; in pratica per lunghi turni sono sottoposti a quanto di più traumatizzante può uscire fuori da Internet (abusi, violenze, autolesionismo, suicidi).
Secondo l’ALLI, di tutti questi aspetti gli autori, e ancor di più quelli indipendenti, cioè, editori di se stessi, devono essere consapevoli se stanno valutando di integrare l’Intelligenza Artificiale nel processo di pubblicazione.

IA e pratiche etiche

Nell’editoria, ci sono particolari considerazioni etiche, incluse ma non limitate a:
equa ripartizione dei benefici;
attribuzione di responsabilità;
sfruttamento dei lavoratori;
il costo ambientale dell’elevato fabbisogno energetico.

Sulla base di questo elenco di considerazioni chiave, l’Alliance of Independent Authors fornisce un codice di condotta che gli autori sono invitati a seguire:

Gli strumenti di intelligenza artificiale possono essere utilizzati per la generazione di idee, personaggi e storie, nonché per la generazione di testi. È tuo compito come autore modificare e curare le parole generate e assicurarti che il testo non sia, per esempio, dispregiativo o offensivo; non tagliare e incollare il testo generato senza controllare e adattare l’output, quindi spacciare queste parole come proprie.

Se utilizzi il testo generato da uno strumento di intelligenza artificiale, oltre alla modifica, esegui il lavoro finale attraverso un controllo antiplagio per assicurarti di non aver violato inconsapevolmente il copyright di qualcuno. Dichiara quali strumenti di intelligenza artificiale sono stati utilizzati nel processo di creazione del lavoro finito, proprio come si dà credito a editor e grafici umani.

Il codice è volontario e aperto a tutti. Qualsiasi autore, indipendentemente dal metodo di pubblicazione o dall’appartenenza, può sottoscrivere questo codice, una volta accettati i principi guida. Ora, qualunque sia la vostra posizione in merito, credo che ci sia ancora un dettaglio che uno scrittore dovrebbe tenere bene a mente quando utilizza una IA.

Il prompt design è scrittura narrativa

Lo ha spiegato molto bene Scott Rettberg su l’Electronic Book Review, ovvero che con IA si scrive sempre narrativa. “La risposta varierà molto a seconda del contesto in cui viene posta la domanda: gli input che diamo a ChatGPT in un dato thread influenzano le risposte successive nello stesso thread. La variabilità delle risposte dipenderà anche dalla struttura, dallo stile e dal contesto del prompt ogni volta che viene eseguito”.

Per tornare all’inizio di questo lungo articolo, il bot simula una conversazione umana in cui l’ultima risposta dell’interlocutore guida la direzione della discussione. L’autonomia che il software sembra avere è perciò un artificio, in realtà quello che stiamo facendo è chiedergli di risponderci come se fosse una persona, interpretare cioè un essere umano.

Nel suo pezzo Rettberg richiama il funzionamento di Eliza, il primo bot di generazione del linguaggio naturale sviluppato negli anni 60. Il copione era semplice, spiega: “Fai una domanda ed Eliza riformulerà quella domanda e ti incoraggerà ad approfondire, ma tutto ciò che alla fine stai facendo nella tua conversazione con Eliza è parlare con te stesso“.

Stabilite quali sono le pratiche etiche nell’uso delle Intelligenze Artificiali per la scrittura, nel prossimo post scopriremo una piattaforma per autori che promette di superare gli attuali limiti del prompt writing.