Studio

ChatGPT e testi professionali: un esperimento

I professionisti che usavano ChatGPT hanno completato le attività di scrittura il 40% più in fretta, e la qualità del loro lavoro è salita del 18%. Il divario tra chi scriveva meglio e chi scriveva peggio si è ridotto.

In sintesi

Fonte
Noy and Zhang (2023). Experimental evidence on the productivity effects of generative artificial intelligence. Science, 381(6654), 187–192. doi:10.1126/science.adh2586
Come è stato condotto
Un esperimento online, registrato in anticipo. Metà dei partecipanti è stata estratta a sorte per usare ChatGPT in un’attività di scrittura retribuita, tipica del loro lavoro. Esperimento randomizzato. Le persone sono state assegnate a caso a lavorare con o senza lo strumento, e i due gruppi sono stati confrontati.
Chi ha partecipato
453 professionisti laureati.
Dove
Online; i partecipanti hanno svolto attività di scrittura adatte alla loro professione.

“Our results show that ChatGPT substantially raised productivity: The average time taken decreased by 40% and output quality rose by 18%.” [I nostri risultati mostrano che ChatGPT ha aumentato in modo sostanziale la produttività: il tempo medio impiegato è diminuito del 40% e la qualità del risultato è salita del 18%.]

Che cosa ha trovato

  • Il tempo impiegato è sceso in media del 40%.
  • La qualità del risultato è salita del 18%.
  • Le differenze tra i lavoratori si sono ridotte. Chi rendeva meno si è avvicinato a chi rendeva di più.
  • Chi aveva usato ChatGPT nell’esperimento aveva il doppio delle probabilità di dichiarare di usarlo nel proprio lavoro due settimane dopo, e 1,6 volte le probabilità due mesi dopo.

Quando vale il risultato

Le attività erano testi professionali di livello intermedio, adatti alla professione di ciascun partecipante e pagati in base al risultato. È un lavoro che gli strumenti di scrittura con l’IA svolgono bene.

Limiti

  • Le attività erano brevi e svolte una sola volta, fuori dal lavoro reale dei partecipanti.
  • L’esperimento non ha verificato l’accuratezza su attività che richiedono fatti che l’IA non conosce.

Pratiche che usano questo studio

Questo studio sostiene: