Опрос
|
реклама
Быстрый переход
В популярных материалах для обучения нейросетей нашли изображения сексуального насилия над детьми
20.12.2023 [22:46],
Сергей Сурабекянц
Исследователи из Стэнфорда обнаружили, что популярный набор данных LAION-5B, используемый для обучения моделей генеративного искусственного интеллекта, и применявшийся для Stable Diffusion и Google Imagen, включает в себя сотни ссылок на материалы сексуального насилия над детьми (Child Sexual Abuse Material — CSAM). Установлено, что LAION-5B включал по меньшей мере 1679 нелегальных изображений, взятых из постов в социальных сетях и популярных сайтов для взрослых. Исследователи начали изучение набора данных LAION в сентябре 2023 года, стремясь выяснить, используются ли там материалы с сексуальным насилием над детьми. С этой целью хеши или идентификаторы изображений отправлялись на платформы обнаружения CSAM, такие как PhotoDNA, и в Канадский центр защиты детей. Исследователи из Стэнфорда отметили, что наличие CSAM в наборе данных для обучения ИИ не обязательно негативно повлияет на результаты обученных моделей. Тем не менее, всегда есть вероятность, что модель использует что-то из незаконных материалов при генерации изображений. «Наличие повторяющихся идентичных случаев CSAM также является проблематичным, особенно из-за увеличения вероятности получения изображений конкретных жертв», — говорится в отчёте. LAION, некоммерческая организация, которая управляет набором данных, сообщила, что придерживается политики «нулевой терпимости» к вредоносному контенту и временно удалит наборы данных из Сети. Согласно сайту LAION, набор данных не является непосредственно репозиторием изображений. Он представляет собой результат индексирования ресурсов интернета и содержит ссылки на изображения и замещающий текст. Stability AI сообщила, что внутренние правила компании запрещают неправомерное использование её платформ. Компания утверждает, что при обучении своих моделей на наборе данных LAION-5B, она использовала лишь часть материалов, которые отбирались в том числе и с учётом безопасности. Эксперты полагают, что будет сложно полностью удалить проблемный контент из моделей ИИ, обученных на нём. Они рекомендуют подождать, чтобы модели, обученные на LAION-5B, такие как Stable Diffusion 1.5, «устарели, а распространение прекратилось там, где это возможно». Google выпустила новую версию Imagen, но не раскрыла, на каком наборе данных она обучалась. Генеральные прокуроры США призвали Конгресс создать комитет для расследования влияния ИИ на эксплуатацию детей и запретить создание CSAM, генерируемого ИИ. Крупные работодатели существенно замедлили набор сотрудников по направлению метавселенной, зато спрос на фрилансеров вырос в 4 раза
31.07.2022 [17:06],
Павел Котов
После переименования компании Facebook✴ в Meta✴ в октябре прошлого года число вакансий по направлению «метавселенная» неуклонно росло несколько месяцев подряд, однако в период с апреля по июнь оно упало на 81 %, сообщает Bloomberg со ссылкой на исследователей Revelio Labs. Сокращение набора специалистов по технологиям виртуальной и дополненной реальности происходит на фоне общего спада в технологической отрасли и касается всего кадрового состава — многие игроки успели объявить о сокращениях или отказе от найма новых сотрудников. В крупнейших технологических центрах США, Сан-Франциско (Калифорния) и Остине (Техас), за минувшие 4 недели количество объявлений о вакансиях упало на 8,4 % (по данным сайта вакансий Indeed). Глава Meta✴ Марк Цукерберг (Mark Zuckerberg) сделал ставку на виртуальную реальность и связанные с ней решения, побудив и другие компании к поиску экспертов в этих областях, однако первоначальная шумиха оказалась непродолжительной. В свете надвигающейся рецессии, о которой предупреждают экономисты, работодатели были вынуждены пересмотреть как бюджеты, так и кадровую политику, столкнувшись с отрезвляющей и отнюдь не виртуальной реальностью, считает Чжин Ян (Jin Yan) из Revelio Labs. Что любопытно, при существенном сокращении набора сотрудников по данному направлению в четыре раза вырос спрос на услуги фрилансеров, специализирующихся на 3D-дизайне и разработке аватаров, утверждают на бирже Fiverr International. |
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |