Startup Elona Muska zajmujący się sztuczną inteligencją szkoli model Grok 3 LLM nowej generacji, który jest trenowany na potwornych procesorach graficznych NVIDIA H100 AI ze 100 000 procesorami graficznymi.
W nowym poście na X założyciele SpaceX i Tesli opowiedzieli o swoim start-upie xAI, odpowiadając @BasedBeffJezos na X, który odpowiadał @BasedBeffJezos, który zamieścił wideo od Aidana Gomeza, dyrektora generalnego i współzałożyciela Cohere, który powiedział „Uczenie się modeli na wzajemnych danych przypomina efekt ludzkiej stonogi„.
Advertisement
Tutaj Musk odpowiedział, mówiąc: „Niestety całkiem prawdziwe. Usunięcie LLM z danych szkoleniowych w Internecie wymaga dużo pracy. Grok 2, który ukaże się w sierpniu, będzie pod tym względem gigantycznym postępem„. Tutaj @BasedBeffJezos powiedział: „Grok 2 w sierpniu będzie oparty na AGI„. Musk odpowiedział ponownie, mówiąc: „Grok 3 na zakończenie roku po szkoleniu na 100K H100 powinno być naprawdę czymś wyjątkowym„.
Możesz zobaczyć to wideo poniżej:
Na początku tego roku Tesla oświadczyła, że wyśle miliardy dolarów na zakup procesorów graficznych NVIDIA AI i procesorów graficznych AMD AI, więc liczby te radykalnie się zmienią w ciągu roku, w miarę jak Tesla będzie pozyskiwać więcej krzemu AI od firmy NVIDIA. Niedawna inwestycja o wartości 500 milionów dolarów w superkomputer Dojo stanowi „jedyny odpowiednik” 10 000 procesorów graficznych NVIDIA H100 AI, powiedział Musk w styczniu 2024 r., dodając: „W tym roku Tesla wyda więcej na sprzęt NVIDIA. W tym momencie stawka za bycie konkurencyjnym w dziedzinie sztucznej inteligencji wynosi co najmniej kilka miliardów dolarów rocznie„.