OpenAI, организация, стоящая за разработкой таких инновационных AI-продуктов, как ChatGPT и DALL-E, рассматривает возможность ответственной генерации контента для взрослых (NSFW) с соблюдением возрастных ограничений. Это кардинально меняет предыдущую политику компании, которая строго запрещала создание подобного контента. Исследование в этой области охватывает широкий спектр материалов, от эротики до экстремального насилия, и направлено на предоставление пользователям гибкости в использовании услуг OpenAI в различных творческих сценариях при строгом соблюдении политик использования и гарантии безопасности и законности.
Основные моменты исследования
- Пересмотр политик: OpenAI пересматривает свои политики в отношении контента NSFW, рассматривая возможность разрешения генерации явных текстов и изображений в рамках строгих правил для предотвращения злоупотреблений, таких как создание порнографии с использованием технологии дипфейк или контента, изображающего несовершеннолетних в сексуальных актах.
- Документ о спецификациях модели: OpenAI опубликовала документ о спецификациях модели, который подчеркивает намерения компании изучать возможности создания NSFW-контента. Этот документ является частью широкой инициативы OpenAI по сбору отзывов о поведении её AI-моделей.
- Исключение дипфейков: Несмотря на исследование контента NSFW, OpenAI остается непреклонной в своей позиции против дипфейков. Организация четко заявила, что не будет разрешать генерацию дипфейк-контента из-за значительных проблем с конфиденциальностью и потенциального вреда, связанного с такими материалами.
- Отзывы сообщества и разработчиков: Исследование OpenAI в области NSFW-контента вызвало обсуждения среди сообщества разработчиков и пользователей. Некоторые пользователи выражают интерес к более открытому подходу к генерации контента для творческого и личного использования, в то время как другие высказывают опасения по поводу потенциала злоупотреблений и этических аспектов создания явного контента.
- Возможности для творческого выражения: OpenAI стремится предоставить платформу для творческого выражения, включая сценарии, где контент, связанный с сексуальностью или наготой, важен для пользователей. Организация рассматривает, как ответственно обслуживать такой контент в контекстах, соответствующих возрастным ограничениям, уравновешивая потребность в творческой свободе с важностью безопасности и соблюдения законных и этических стандартов.
Исследование OpenAI по ответственной генерации контента NSFW представляет собой тонкий подход к модерации и созданию контента в эпоху искусственного интеллекта. Учитывая потенциал для творческого выражения при соблюдении строгих руководств для предотвращения злоупотреблений, OpenAI стремится навигировать в сложном ландшафте цифрового создания контента. Усилия организации по сбору отзывов и участию в обсуждениях о подходящих границах для контента, генерируемого AI, отражают её приверженность ответственной разработке и использованию искусственного интеллекта.
Ссылка на источник: OpenAI Business Insider: OpenAI исследует возможности генерации AI-порно