Ни слова о «кожаных ублюдках»: роботов научат вежливой речи

Исследователи из Калифорнийского университета в Сан-Диего разработали алгоритмы для очистки речи от оскорбительных выражений, которую генерируют онлайн-боты.

Ранее эксперты пробовали разные подходы для очистки речи ботов, но они оказывались неэффективными. При составлении списка токсичных слов упускаются слова, которые при употреблении вне контекста и по отдельности кажутся нормальными, но становятся оскорбительными при использовании в сочетании с другими. Попытка удалить токсичную речь из обучающих данных отнимает много времени и далеко не надежна. Аналогичные проблемы возникают при разработке нейронной сети, которая выявляла бы токсичную речь.

Теперь специалисты по информатике из Калифорнийского университета в Сан-Диего попробовали новый метод. Сначала они запустили «вредные» подсказки в предварительно обученную языковую модель, чтобы заставить ее генерировать токсичный контент. Затем исследователи обучили модель, которую назвали «злой», прогнозировать вероятность того, что контент будет оскорбительным. После инженеры обучили «хорошую модель», которую научили избегать всего контента, высоко оцененного «злой моделью».

В итоге, авторы разработки подтвердили, что их «хорошая модель» оказалась более эффективна, чем самые современные методы. Исследователи представили свою работу на онлайн-конференции AAAI по искусственному интеллекту.

Больше странных и безумных новостей:

• Полсотни детей в тридцать лет: история отзывчивого донора спермы из США
• Предвыборная кампания для взрослых: экс-стриптизерша пытается пробиться в политику

• Шиза всякая в соцсетях: ВКонтакте, Одноклассники

По инф. hightech.fm

Снесла курочка яичко, да не простое, а идеально круглое. Продано с аукциона!

В Великобритании на аукционе представили странный лот. Речь идет о яйце идеально круглой формы

Государство готовится отслеживать наши маршруты по мобильному геотрекингу

Министерство цифрового развития, связи и массовых коммуникаций РФ разрабатывает сервис для сбора и обработки данных о местоположении и перемещениях граждан на основе информации от мобильных операторов

Российских ведьм хотят оставить без продвижения

В Госдуму поступил законопроект, который устанавливает запрет рекламы эзотерических, духовных и энергетических услуг.

Какие три сока способны снизить давление?

Врач-диетолог Марият Мухина рассказала, как без лекарств понизить давление. Оказалось, что в этом могут помочь три полезных продукта.

Научные данные: каких друзей предпочитают заводить кошки?

Кошки не гуляют сами по себе — оказалось, это заблуждение. Они умеют заводить крепкую дружбу с людьми и другими животными.