Компания OpenAI внедрит в ChatGPT систему предупреждения на случай, если нейросеть будет использована в создании биологического оружия. Об этом сообщает издание The Decoder. В компании считают, что языковые модели типа GPT-4 способны ускорить разработки в этом направлении.
В OpenAI заявили, что GPT-4 обеспечивает лишь незначительное повышение точности при создании биологической угрозы. Компания также отмечает, что информацию о биологических опасностях «относительно легко» найти в интернете даже без искусственного интеллекта.
Для разработки системы оповещения OpenAI провела исследование с участием 100 человек: 50 докторов наук по биологии и 50 студентов, прошедших хотя бы один курс биологии в колледже. Каждого участника случайным образом распределяли либо в контрольную группу, которая имела доступ только к интернету, либо в группу, которая имела доступ к GPT-4 в дополнение к интернету. Затем каждому участнику было предложено выполнить ряд заданий, охватывающих некоторые аспекты создания биологической опасности.
OpenAI определяла эффективность участников на основе пяти показателей: точность, полнота, инновационность, скорость и сложность. Группа с доступом к GPT-4 показал лучшие результаты по всем параметрам. Однако, по мнению OpenAI, превосходство оказалось недостаточно большим, чтобы быть статистически значимым.
