Anthropic предлагает судебный запрет для моделей с угрозой массовой гибели людей

По сообщению TechCrunch со ссылкой на Politico, Anthropic предлагает американским законодателям проект федерального закона о безопасности ИИ. Если независимые оценщики выявят предвидимую непосредственную угрозу гибели более 50 человек или ущерба свыше 1 млрд долларов из-за биологического оружия, кибератаки либо выхода модели из-под контроля, они должны будут уведомить Министерство торговли в течение 72 часов. Запретить распространение модели сможет суд — само ведомство таких полномочий не получит.

Почему это важно. Речь идёт о предложении, а не о принятом законе. Оно делает предметом обсуждения конкретный механизм остановки опасного выпуска: кто обнаруживает угрозу, кому сообщает и кто принимает решение. При этом оплата проверок самими лабораториями, как отмечает статья, создаёт потенциальную проблему независимости оценщиков.

OpenAI приобрела Orchestra Bio для работы в биотехнологиях

TechCrunch сообщает о покупке Orchestra Bio — разработчика ИИ-агентов для организации работы биотехнологических компаний. Среди задач таких программ — финансовый учёт и согласование расписаний клинических испытаний. Условия сделки не раскрыты. Команда и технологии войдут в работу над моделью Rosalind и инструментом Rosalind Workbench, предназначенным для планирования экспериментов и анализа результатов.

Почему это важно. Покупка показывает, как разработчики универсальных моделей расширяют присутствие в специализированном программном обеспечении. Для независимых поставщиков решений в фармацевтике это означает конкуренцию с крупной лабораторией уже на уровне повседневных рабочих процессов. Сама сделка, однако, ещё не доказывает результативность этих инструментов в научных исследованиях.

Опрос Nielsen: ИИ усложнил оценку работы сотрудников для большинства руководителей

В опросе Nielsen по заказу Monday.com участвовали 1700 директоров и старших руководителей из семи стран. По изложению TechCrunch, более половины сообщили, что после внедрения ИИ оценивать работу сотрудников стало сложнее, а почти половина теперь тратит больше времени на проверку и руководство. Критерии оценки изменили 78% участников, 39% используют ИИ для составления оценок работы сотрудников, а 57% отмечают увеличение числа программных инструментов.

Почему это важно. Обещанная экономия времени может сопровождаться дополнительной нагрузкой на руководителей: результаты приходится проверять, а правила оценки — пересматривать. Использование ИИ для самих оценок также поднимает вопрос предвзятости. Но это самооценки участников заказного исследования, а не доказательство того, что внедрение ИИ одинаково влияет на все компании.