Hoe train je een AI-model op duizenden GPU's tegelijk?
Een groot AI-model past niet op één chip. Zo verdelen AI-labs de training over duizenden GPU's, en waarom dat datacenters, stroom en geld kost.
Tag
#pytorch
2 artikelen
Hoe werkt een taalmodel? De bouwblokken van ChatGPT uitgelegd
Een taalmodel voorspelt stap voor stap het volgende woord. Zo werken tokens, attention en training in ChatGPT en Claude, uitgelegd zonder programmeerkennis.