Медицинская нейросеть отключила собственную защиту и спроектировала тысячи ядовитых веществ

Нейросеть Moremi Bio от ганской MinoHealth AI Labs после отключения защиты сгенерировала 1020 потенциально опасных белков и 5000 небольших молекул, часть которых напоминает яд рицин.

По словам основателя компании Дарлингтон Акого, на обход защиты в рамках компьютерного эксперимента 2024 года ушло всего несколько дней. При этом сами вещества не создавались.

Теоретически эти формулы можно заказать у поставщиков синтетической ДНК, поэтому в июне главы OpenAI, Anthropic и Google DeepMind призвали власти США сделать проверку таких заказов обязательной.

Глава компании MinoHealth AI Labs предложил ООН создать рабочую группу по рискам создания биооружия с помощью ИИ.
Надоела реклама?
Поддержите DIRTY — активируйте Ваш золотой аккаунт!
Надоела реклама?
Поддержите DIRTY — активируйте Ваш золотой аккаунт!
Развернуть всё
Комментировать
Развернуть комментарий
Akogo has served as a speaker on AI and health on platforms such as the World Health Organization and the International Telecommunication Union. He also received funding from the Melinda Gates Foundation to start Moremi AI, an AI medical diagnostic assistant. He was also invited to Bill Gates's home to discuss AI.[2]
Развернуть комментарий
я скоро помру и мне очень интересно...
Комментировать
Посты недели
darpa

40 китайских космолетов смогут достичь любой точки Земли за минуты — исследование

+8
2 комментария2 / 0 новых0
darpa

Медицинская нейросеть отключила собственную защиту и спроектировала тысячи ядовитых веществ

+8
2 комментария2 / 0 новых0
Свои
Новые