Компания Google объявила о запуске открытого бета-теста своей передовой нейросети Gemini 1.5 Pro, ключевой особенностью которой стала возможность обрабатывать до 1 млн токенов. Об этом сообщает портал Analytics India Mag.
Нейросеть Gemini 1.5 Pro работает с контекстным окном в 128 тыс. токенов с возможностью расширения до 1 миллиона. Она способна обрабатывать до 700 тыс. слов, 30 тыс. строк кода, 1 часа видео или 11 часов аудиоматериалов. В рамках исследований Google также успешно провела тестирование обработки до 10 млн токенов.
Используя архитектуру Transformer и MoE, Gemini 1.5 Pro демонстрирует высокую эффективность в различных задачах, включая анализ исторических данных, как, например, расшифровку стенограммы миссии «Аполлон-11». Кроме того, нейросеть не только анализирует большие объемы информации, но и быстро находит специфические фрагменты текста, а также эффективно работает с обширными блоками кода.
В тесте Needle In A Haystack (NIAH) нейросеть показала 99% точность в выявлении конкретных данных в обширных текстах. Ее способность к адаптивному обучению, продемонстрированная на примере бенчмарка Machine Translation from One Book (MTOB), выделяет Gemini 1.5 Pro как одну из лучших на сегодняшний день.
В настоящее время попробовать Gemini 1.5 Pro может каждый желающий в интерфейсе AI Studio от Google. Нейросеть понимает и может отвечать на русском языке, однако в России она не работает.
