Che cos'è una rete neurale?
Una rete neurale è un modello di machine learning formato da molte unità semplici collegate tra loro, chiamate neuroni o nodi, disposte in strati. Ogni connessione ha un peso, e la rete apprende regolando quei pesi finché le sue uscite non corrispondono agli esempi su cui viene addestrata. Il progetto si ispira vagamente al cervello, ma funziona in modo molto diverso dai neuroni biologici.
Strati: di input, nascosti e di output
- Strato di input: riceve i dati, per esempio i valori dei pixel o i numeri che rappresentano le parole.
- Strati nascosti: ogni neurone moltiplica i suoi input per i pesi, li somma e fa passare il risultato attraverso una funzione semplice. Gli strati successivi costruiscono caratteristiche via via più astratte: nel riconoscimento della scrittura a mano, prima i tratti, poi gli occhielli e le linee, poi i caratteri interi.
- Strato di output: fornisce la risposta, per esempio il carattere più probabile o la parola successiva.
Come apprende una rete neurale
La rete fa una previsione, misura quanto ha sbagliato, e poi un metodo chiamato retropropagazione (backpropagation) calcola quanto ciascun peso ha contribuito all'errore, così da poterlo correggere leggermente nella direzione giusta. Ripetuto su milioni di esempi tratti dai suoi dati di addestramento, questo processo produce una rete capace di generalizzare a input nuovi.
Tipi di rete neurale
- Reti feedforward: i dati scorrono direttamente dall'input all'output.
- Reti neurali convoluzionali (CNN): analizzano le immagini con piccoli filtri; sono lo standard per la visione artificiale.
- Reti neurali ricorrenti (RNN): elaborano le sequenze un passo alla volta; un tempo erano comuni per il testo.
- Transformer: elaborano un'intera sequenza in una volta sola grazie al meccanismo di attenzione; sono la base dei modelli linguistici di grandi dimensioni.
DNN e CNN: una rete neurale profonda (DNN) è qualsiasi rete con molti strati nascosti; una CNN è un tipo di DNN, progettato per le immagini.
Breve storia
Warren McCulloch e Walter Pitts descrissero un neurone artificiale nel 1943, e Frank Rosenblatt costruì il percettrone nel 1958. La retropropagazione si diffuse nel 1986, e le reti con molti strati, oggi chiamate deep learning, decollarono intorno al 2012.
Le reti neurali negli strumenti di scrittura
La correzione grammaticale, la previsione della parola successiva, la traduzione e altre parti dell'elaborazione del linguaggio naturale oggi si basano per lo più su reti neurali.
Svantaggi
- Richiedono grandi quantità di dati e di potenza di calcolo.
- Sono difficili da interpretare: è complicato dire perché una rete abbia dato una certa risposta.
- Apprendono qualsiasi distorsione (bias) presente nei loro dati di addestramento.
Caso d'uso: La migliore IA per scrivere saggi che restano tuoi