Trajnoni një model të gjuhës natyrore për të parashikuar fjalën e ardhshme duke pasur parasysh një kontekst.
Krijimi i një Modeli të Gjuhës Natyrore për parashikimin e fjalës së ardhshme të dhënë një kontekst përfshin disa faza: 1. Parapërpunimi - Këtu, teksti ndahet në fjali, tokenizohet, interpunksioni hiqet dhe fjalët e ndalimit hiqen nga teksti. 2. Embeddings - Këtu, fjalët përfaqësohen nga vektorë të dendur të numrave realë dhe fjalët me kuptime të ngjashme kanë një përfaqësim të ngjashëm. 3. Trajnimi - Këtu, modeli trajnohet duke përdorur mësimin e mbikëqyrur, ku makinës i tregohen shembuj të teksteve të mëparshme për të mësuar modelet. Modeli parashikon fjalën e ardhshme në sekuencë pasi të trajnohet. 4. Vlerësimi - Modeli vlerësohet në të dhëna të padukshme për të siguruar që të performojë mirë në detyrë.