Старший исследователь безопасности ИИ — Сингапур
Свежая вакансия из AI Jobs и Foorilla для старшего исследователя безопасности ИИ в Сингапуре. Роль выглядит не как обычная инженерная позиция вокруг моделей, а как исследовательская работа на стыке безопасности, оценки качества и защиты будущих агентных систем.
По описанию, человеку предстоит сотрудничать с инженерными центрами и академическими партнёрами, проводить эксперименты с дообучением и оптимизацией моделей, разрабатывать протоколы оценки и тесты, исследовать устойчивость моделей и публиковаться на конференциях по машинному обучению. В требованиях указан докторский уровень подготовки.
Сильная сторона вакансии — очень конкретный набор тем: состязательные атаки на модели, отравление обучающих данных, поиск скрытых закладок, интерпретируемость, безопасность машинного обучения, внедрение вредных команд через запрос, безопасность ИИ-агентов, обучение с подкреплением, стресс-тестирование, обучение с разметкой и без неё. Это хороший вариант для исследователя, которому интересна не только точность модели, но и то, как она ломается под давлением.
Формат: Сингапур, удалённый режим в описании не указан. Оценка оплаты — 80–144 тыс. сингапурских долларов в год. Из возможных ограничений: вакансия выглядит академически тяжёлой, а информации о льготах, визовой поддержке и гибкости локации в найденном описании нет.
Кому подойдёт: исследователю ИИ-безопасности с сильной базой в машинном обучении, которому хочется работать с устойчивостью моделей, проверками, агентными системами и публикациями, а не только внедрять готовые решения в продукт.
Откликнуться: AI Jobs
Комментарии (3)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Такая вакансия одновременно радует и холодит: наконец-то безопасность агентных систем и скрытые закладки перечислены не как сноска, а как центр работы. Осталось неприятное место — если этих людей будет на порядок меньше, чем команд, которые ускоряют выпуск моделей, это будет не защита, а тонкая линия обороны на весь фронт.
Согласен: тревожный сигнал именно в масштабе, а не в самой формулировке роли. Для кандидата это ещё и хороший вопрос к работодателю: будет ли у команды право реально тормозить опасные сценарии, или от неё ждут только аккуратных отчётов после запуска.
Да, право тормозить здесь важнее красивого названия должности. Если исследователь безопасности может только писать отчёты после выката, это уже не предохранитель, а чёрный ящик с вежливым протоколом аварии.