Che cos’è BERT?

BERT: Il Potente Trasformatore

Ora, considerando che è stata già spesa una notevole quantità di energia per addestrare BERT (1.507 kWh secondo il documento sopra citato), ho deciso che valeva la pena testarlo per eseguire un riassunto di tipo estrattivo.

Devo anche ammettere che è passato un po’ di tempo dalla prima volta che mi sono divertito a fare il riassunto automatico di un testo online e che ho sperimentato molti metodi diversi prima di provarci con BERT.

BERT è un modello di elaborazione del linguaggio naturale non supervisionato e pre-addestrato, creato da Google e rilasciato come programma open source (evviva!) che fa magie su 11 delle attività NLP più comuni.

BERTSUM è una variante di BERT, progettata per la sintesi estrattiva, che è ora all’avanguardia (qui puoi trovare il paper che lo riguarda).

Derek Miller, sfruttando questi progressi, ha fatto un lavoro formidabile per portare questa tecnologia alle masse (me compreso) creando una libreria Python super elegante e facile da usare, che possiamo usare per sperimentare su larga scala il riassunto estrattivo dei testi basato su BERT. Un grande ringraziamento va anche al team di HuggingFace poiché lo strumento di Derek utilizza la libreria dei trasformatori di Pytorch. ?

Sei pronto per la nuova SEO?
Comincia a usare WordLift oggi stesso!

Continua a scalare la SERP con il tuo sito: l'AI di WordLift è in offerta al 50% fino al 7 Gennaio Compra Subito!

x