Reuters: новый ИИ может стать угрозой для человечества

Накануне предстоящего увольнения генерального директора OpenAI Сэма Альтмана, компания столкнулась с неожиданным вызовом. Группа ученых направила совету директоров письмо, в котором выражается обеспокоенность по поводу последнего прорыва в области искусственного интеллекта. Согласно информации, предоставленной агентством Reuters и основанной на данных от двух независимых источников, речь идет о разработке Q* (Q-Star), которая, по мнению исследователей, может нести угрозы для человечества.

Этот проект, реализуемый создателями ChatGPT, был описан как потенциальный шаг к созданию сверхинтеллекта, или общего искусственного интеллекта (AGI). OpenAI определяет AGI как системы, превосходящие человеческий ум. Новая модель, обладающая значительными вычислительными ресурсами, уже продемонстрировала способность решать базовые математические задачи.

Несмотря на то, что на данном этапе Q* способна решать задачи лишь на уровне учеников начальной школы, исследователи выражают оптимизм относительно ее будущих достижений. Это открытие вызывает вопросы о возможных последствиях для будущего ИИ и его влияния на общество.