GPT-3 od OpenAI je nejvýkonnější jazykový model

Využití technologie strojového učení už není tak těžké, protože nevyžaduje znalosti algoritmu, statistiky a pravděpodobnosti. V současné době je to stejně jednoduché jako volání rozhraní API, a to díky kouzelnému vynálezu, se kterým přišla společnost OpenAI.

Co je to OpenAI?

OpenAI je společnost zabývající se výzkumem a implementací umělé inteligence se sídlem v San Franciscu, která byla založena koncem roku 2015. Původně vznikla jako nezisková výzkumná organizace, jejímž posláním je rozvíjet obecnou umělou inteligenci co nejpřínosnějším způsobem pro lidstvo bez komerčních omezení. OpenAI pracuje na mnoha produktech a aplikacích, přičemž její výzkum se zaměřuje na reinforcement learning, vývoj generativních modelů, videoherní roboty a benchmarking. Velice populární se stal Generative Pre-trained Transformer 3, známý také jako GPT-3. Tvorba textů tak nabírá úplně jiný rozměr. Právě na této technologii je založena i služba PISALEK AI.

Co je GPT-3?

GPT-3 (Generative Pre-trained Transformer 3) je model pro predikci jazyka založený na hlubokém učení. Hluboké učení jako takové je součástí větší rodiny algoritmů strojového učení založených na umělých neuronových sítích. První verze GPT byla vydána jako výzkumná práce a zveřejněna na webu OpenAI 11. června 2018. Ukázala, že model jazykové predikce dokáže zachytit globální znalosti. Navrhla, že jazykový model je třeba naučit pomocí neoznačených dat a poté jej zdokonalovat pomocí vzorků úloh zpracování přirozeného jazyka, jako jsou klasifikace textu, analýza sentimentu a segmentace slov. GPT-2 byl představen v únoru 2019, ovšem pro veřejnost se uvolnil jako omezená demonstrační verze. GPT-2 dokázal generovat realistický text, který společnost OpenAI odmítla zveřejnit jako open-source, protože se obávala vývoje a šíření falešných zpráv. Dne 11. června 2020 byl GPT-3 spuštěn jako beta verze. Plná verze GPT-3 má kapacitu 175 miliard ML parametrů. GPT-2 má 1,5 miliardy parametrů, jež ukazují, jak masivně výkonný GPT-3 je. Původní dokument představující GPT-3 byl prezentován inženýry OpenAI, kteří varovali před potenciálními riziky GPT-3 a vyzvali k výzkumu, který by tato rizika snížil. Přečtěte si také první blog psaný AI a texty vám dokáže generovat i služba PISALEK AI, která používá technologii GPT-3.