Fastino: Mniejsze, ale skuteczniejsze modele AI
Wielkie firmy technologiczne często chwalą się ogromnymi modelami AI z bilionami parametrów, które wymagają potężnych i kosztownych klastrów GPU. Jednak Fastino wybiera inną drogę.
Startup z Palo Alto twierdzi, że opracował nową architekturę modeli AI, która jest celowo mniejsza i specjalizuje się w konkretnych zadaniach. Modele są tak niewielkie, że można je trenować na niedrogich kartach graficznych za mniej niż 100 000 dolarów – przekonuje Fastino.
Ta metoda przyciąga uwagę. Fastino pozyskał 17,5 miliona dolarów w rundzie seedowej, którą poprowadził Khosla Ventures – pierwszy inwestor venture OpenAI – jak wyłącznie ujawnia TechCrunch.
Dzięki temu całkowite finansowanie startupu sięga niemal 25 milionów dolarów. W listopadzie ubiegłego roku firma zebrała 7 milionów dolarów w rundzie pre-seed, prowadzonej przez M12 (fundusz venture Microsoftu) oraz Insight Partners.
"Nasze modele są szybsze, dokładniejsze i znacznie tańsze w trenowaniu, a przy tym przewyższają flagowe rozwiązania w konkretnych zadaniach" – mówi Ash Lewis, CEO i współzałożyciel Fastino.
Fastino stworzył zestaw niewielkich modeli, które sprzedaje klientom biznesowym. Każdy z nich skupia się na określonym zadaniu, takim jak usuwanie poufnych danych czy podsumowywanie dokumentów firmowych.
Startup nie ujawnia jeszcze wczesnych wyników ani listy użytkowników, ale zapewnia, że jego technologia robi wrażenie. Na przykład, dzięki swojej niewielkiej skali, modele Fastino mogą generować pełną odpowiedź w jednym tokenie – Lewis pokazał TechCrunch, jak system udziela szczegółowych odpowiedzi w ciągu milisekund.
Wydarzenie TechCrunch
Zaprezentuj się na TechCrunch Sessions: AI
Zabezpiecz miejsce na TC Sessions: AI i pokaż ponad 1200 decydentom, co stworzyłeś – bez ogromnych kosztów. Oferta ważna do 9 maja lub do wyczerpania miejsc.
Berkeley, CA | 5 czerwca
Jeszcze za wcześnie, by stwierdzić, czy podejście Fastino zdobędzie popularność. Rynek AI dla przedsiębiorstw jest zatłoczony, a firmy takie jak Cohere czy Databricks również oferują modele specjalizujące się w konkretnych zadaniach. Ponadto producenci modeli SATA, jak Anthropic i Mistral, także mają w ofercie mniejsze rozwiązania. Wiadomo też, że przyszłość generatywnego AI w biznesie prawdopodobnie należy do mniejszych, wyspecjalizowanych modeli językowych.
Czas pokaże, ale wczesne poparcie Khosli Ventures na pewno nie zaszkodzi. Na razie Fastino koncentruje się na budowaniu zespołu ekspertów od AI. Startup szuka badaczy z czołowych laboratoriów, którzy nie są zafiksowani na tworzeniu największych modeli czy bijeniu rekordów.
"Nasza strategia rekrutacyjna skupia się na naukowcach, którzy mogą mieć niekonwencjonalne podejście do budowy obecnych modeli językowych" – dodaje Lewis.