Ни слова о «кожаных ублюдках»: роботов научат вежливой речи

Исследователи из Калифорнийского университета в Сан-Диего разработали алгоритмы для очистки речи от оскорбительных выражений, которую генерируют онлайн-боты.

Ранее эксперты пробовали разные подходы для очистки речи ботов, но они оказывались неэффективными. При составлении списка токсичных слов упускаются слова, которые при употреблении вне контекста и по отдельности кажутся нормальными, но становятся оскорбительными при использовании в сочетании с другими. Попытка удалить токсичную речь из обучающих данных отнимает много времени и далеко не надежна. Аналогичные проблемы возникают при разработке нейронной сети, которая выявляла бы токсичную речь.

Теперь специалисты по информатике из Калифорнийского университета в Сан-Диего попробовали новый метод. Сначала они запустили «вредные» подсказки в предварительно обученную языковую модель, чтобы заставить ее генерировать токсичный контент. Затем исследователи обучили модель, которую назвали «злой», прогнозировать вероятность того, что контент будет оскорбительным. После инженеры обучили «хорошую модель», которую научили избегать всего контента, высоко оцененного «злой моделью».

В итоге, авторы разработки подтвердили, что их «хорошая модель» оказалась более эффективна, чем самые современные методы. Исследователи представили свою работу на онлайн-конференции AAAI по искусственному интеллекту.

Больше странных и безумных новостей:

• Полсотни детей в тридцать лет: история отзывчивого донора спермы из США
• Предвыборная кампания для взрослых: экс-стриптизерша пытается пробиться в политику

• Шиза всякая в соцсетях: ВКонтакте, Одноклассники

По инф. hightech.fm

Храп может быть предвестником опасной болезни

Люди, которые во сне храпят, могут заработать язву желудка. Так утверждает врач и телеведущий Александр Мясников, пост размещен на канале медика в Telegram.

Консуматорши: развод мужчин «на бабки». Задержана очередная банда

Преступницам в Санкт-Петербурге удалось заработать на дорогих свиданиях почти 1 млн рублей

Сколько часов в сутки надо выделять на сон?

Сон категорически важен для здоровья — в это время организм восстанавливает энергию, ремонтирует поврежденные клетки и ткани, повышает иммунитет. При этом важно знать оптимальное время сна, уточнил врач-невролог Владимир Мартынов

Какие породы кошек подходят одиноким людям?

Породы кошек очень разнообразны, и представители каждой из них имеют свои особенности, черты характера и повадки. Какую кошку завести для проживания в квартире с одиноким человеком — пожилым или молодым — рассказал Rosbalt.ru

Какие продукты нельзя сочетать с молоком?

Иногда гастрономические эксперименты дорого обходятся здоровью — возникают диарея, вздутие и боли в животе. Чтобы этого избежать, необходимо знать, какие продукты и напитки не сочетаются друг с другом, поясняют диетологи