Новости из мира AI
Google DeepMind и Isomorphic Labs объявили о совместном проекте по биорезилентности, направленном на предотвращение злоупотребления AI в биологии и содействие быстрому реагированию на вспышки заболеваний.
За последний год компаниями было построено более 15 партнерств с правительственными органами, организациями по биобезопасности и исследовательскими группами.
Баланс между прогрессом и безопасностью
DeepMind признает, что парирование этих систем с специализированными моделями биологии и третьими сторонами может усилить их способность. Однако, эта же информация, которая помогает исследователям определять цель вакцины, может, в принципе, помочь злоумышленникам заполнить пробелы в их понимании.
DeepMind и Isomorphic описывают это как двойной мандат: позволять научным достижениям, которые делает AI возможными, в то же время, не давать этим же инструментам тем, кто их злоупотребит.
Три столпа биорезилентности
Программа биорезилентности DeepMind и Isomorphic Labs основана на трех столпах: предотвращении злоупотребления, быстром обнаружении вспышек заболеваний и быстром реагировании на вспышки заболеваний или атаки.
Партнерства, построенные за последний год, затрагивают все три аспекта, хотя обновление дает ограниченную информацию о том, какие организации участвуют, кроме нескольких названных партнеров, включая Lawrence Livermore National Laboratory, UK AI Security Institute, CEPI и Francis Crick Institute.
Направления развития
DeepMind намерен расширить эти партнерства в течение следующих шести- двенадцати месяцев, сосредоточившись на угрозной информации, методах оценки AI-агентов и смягчении "заключения в тюрьму".
Компания также сотрудничает с Форумом моделей фронтира по вопросам, таким как обращение с рискованными категориями данных для обучения, вирусные данные, которые используются в качестве примера.