Новата невронна мрежа на Facebook обвинена в расизъм

Новата система за изкуствен интелект във Facebook (социална мрежа, забранена в Руската федерация; собственост на корпорацията Meta, която е призната за екстремистка в Руската федерация и забранена) има „висока склонност“ към расизъм и пристрастия, се казва в доклад на Motherboard,цитиран от Лента.ру.

Изследователите на изкуствения интелект на компанията уловиха невронната мрежа, че използвайки големия езиков модел OPT-175B, дори с безобидно търсене и въведени думи, тя произвежда „токсични“ резултати, които засилват расистки и сексистки стереотипи. Това може да се дължи отчасти на обучеването на невронната мрежа върху масив от нефилтриран текст, взет от разговори в социалните мрежи, което позволява на четящия както да разпознава, така и да генерира реч на омразата и на расизма, се казва в доклада.

По-рано стана известно, че Meta Platforms временно ще позволи на Facebook да не блокира призивите на потребителите за насилие и агресия срещу руснаци, включително военни.

Говорителят на Meta Анди Стоун по-късно призна, че забраната е отменена. След това Алексей Чепа, първи заместник-председател на комисията по международни въпроси на Държавната дума, посочи, че подобно решение на Мета е расизъм.

На 21 март Тверският съд на Москва призна Мета за екстремистка организация, Роскомнадзор блокира Facebook в Русия.