Questa storia è diffusa dalla newsletter di Substack Big Technology; iscriviti gratuitamente qui .
Di recente, un nuovo Substack chiamato The Rationalist ha sollevato l'analisi e la scrittura direttamente da Big Technology. È plagiato inviare sulla 'Creator Economy', che avevamo coperto giorni prima— è diventato virale, colpendo il prima pagina di Hacker News e scatenando una conversazione con più di 80 commenti. Sarebbe stato un fantastico debutto per qualsiasi pubblicazione, se fosse stato autentico.
Ed Sheeran pensando a te
Ciò che ha reso particolarmente sorprendente il caso di The Rationalist, tuttavia, è stato il suo autore, un avatar di nome 'PETRA', che ha ammesso di aver utilizzato strumenti di intelligenza artificiale per produrre la storia, inclusi quelli di OpenAI, Jasper e Hugging Face. La velocità con cui sono stati in grado di copiare, remixare, pubblicare e distribuire la loro storia non autentica è stata impressionante. Ha superato la capacità delle piattaforme, e forse la volontà, di fermarlo, segnalando che il lato oscuro dell'IA generativa sarà difficile da domare.
'È davvero difficile prevedere tutti gli usi malefici', ha affermato Giada Pistilli, principal ethicist di Hugging Face. 'Cerchiamo di anticipare tutti i rischi, ma è sempre molto difficile'.
The Rationalist è una strana pubblicazione. Non ha missione. Nessun autore nominato al di fuori di PETRA. È in diretta da una settimana. Eppure due giorni dopo che è andato in diretta, stava sollevando passaggi direttamente da Big Technology.
Qui, ad esempio, c'è una clausola di Big Technology da la storia della scorsa settimana :
Con la fine dei giorni della schiuma dei tassi di interesse zero, gli investimenti stanno diventando più difficili da giustificare.
Ed ecco Il Razionalista, due giorni dopo :
Con la fine della schiuma dei tassi d'interesse zero, questi investimenti stanno diventando più difficili da giustificare.
Ecco un'altra clausola di Big Technology:
La creazione di contenuti online è ancora per lo più praticabile per il livello più alto dei creatori online
Ed ecco di nuovo The Rationalist, due giorni dopo:
Solo il livello più alto dei creatori è in grado di realizzare un reddito redditizio
Un titolo appariscente - 'L'economia dei creatori: l'1% più ricco e tutti gli altri' - ha contribuito a spingere la storia di The Rationalist sulla prima pagina di Hacker News, una posizione che in genere vale migliaia di visualizzazioni. Il nocciolo della storia, ripreso da Big Technology, era abbastanza buono da innescare una discussione.
Tuttavia, mentre gli utenti di Hacker News leggevano, hanno notato che qualcosa non andava. 'L'intero articolo mi sembra generato da GPT-3 sulla base di alcuni suggerimenti', ha scritto un utente. 'Questo non è stato scritto da una persona', ha detto un altro. Quindi, Petra ha confessato. 'Se vieni dalle notizie sugli hacker, ecco gli strumenti che ho usato per migliorare la leggibilità', hanno detto prima di elencare OpenAI, Jasper e Hugging Face. Gli strumenti consentono la scrittura AI e probabilmente hanno aiutato a remixare l'articolo originale. PETRA, che non ha risposto a una richiesta di commento, non ha menzionato il contenuto originato da un'altra pubblicazione.
Mentre la storia circolava, le piattaforme tecnologiche che assistevano The Rationalist si fermarono. OpenAI ha condiviso una dichiarazione generica che includeva la frase: 'Le nostre politiche richiedono che gli utenti siano in prima linea con il loro pubblico'. Hugging Face ha ammesso di non avere modo di trovare l'utente offensivo, anche se Pistilli sembrava grato di essere stato allertato. E Substack ha promesso di indagare.
Substack ha affermato di avere una politica contro il plagio, che Merriam-Webster definisce come 'rubare e spacciare (le idee o le parole di un altro) come proprie'. Tuttavia, mentre questo caso si adatta alla definizione, Substack ha deciso di lasciare in piedi il posto di The Rationalist. 'In questo momento non siamo in grado di concludere con certezza che il post violi la nostra politica sul plagio', ha dichiarato la portavoce di Substack Helen Tobin.
Dato il successo di The Rationalist, probabilmente avranno luogo sforzi più avanzati per copiare e remixare il lavoro di altri con l'IA. E dovrebbe essere facile da migliorare. The Rationalist era sciatto, revocando le clausole parola per parola. Ma man mano che le pubblicazioni con intenti simili perfezionano i loro sistemi, saranno in grado di rimuovere tutte le tracce della scrittura originale e trasmettere semplicemente le idee. E non dovrebbe essere nemmeno difficile da automatizzare.
Immagina l'intelligenza artificiale che remixa le dieci storie più lette del giorno del Financial Times, o la copertura VC di The Information, e rende disponibili i rapporti senza paywall. AI sta già scrivendo storie non plagiate per pubblicazioni come CNET . Ad un certo punto, alcuni editori prenderanno scorciatoie.
Kate Middleton come Meghan
Non esiste una soluzione tecnologica rapida a questi problemi. Come è avvenuto per quasi tutti i casi di diffusione di cattive informazioni online, i lettori e gli editori dovranno ancora una volta capirlo da soli. 'I nostri concorrenti ci derubano continuamente, essenzialmente remixando cose e condividendole', ha affermato Jessica Lessin, CEO di The Information. “Gli abbonati alle informazioni sono intelligenti per ottenerlo dalla fonte. Ma ovviamente guardo tutto questo con fascino.
