Amazon obučava LLM sa 980 miliona parametara

Model sa 980 miliona parametara, nazvan BASE TTS, je najveći model za pretvaranje teksta u govor koji je do sada stvoren. Istraživači su obučavali modele različitih veličina na do 100.000 sati govornih podataka u javnom domenu kako bi videli da li će primetiti iste skokove performansi koji se dešavaju u modelima obrade prirodnog jezika kada pređu određenu skalu. Otkrili su da je njihov model srednje veličine od 400 miliona parametara – obučen na 10.000 sati zvuka