Изкуствен интелект срещу фалшиви новини

По Joint Research Centre (JRC) – Newsletter*

В борбата срещу дезинформацията за коронавируса Съвместният изследователския център (JRC) на ЕС обяви своите планове да направи иновативен софтуер с отворен код за извличане на текст на базата на изкуствен интелект, който да е достъпен за хората, проверяващи фактите.Разработените от Центъра инструменти използват технология за създаване на изкуствен интелект за автоматично идентифициране и наблюдение на дезинформация, от маркиране на фалшиви новини до проследяване на неясни източници. По този начин може да се помогне да се опази истинността на фактите за коронавируса, което е от съществено значение, за да има ефективна реакция от страна на общественото здравеопазване.Пандемията от коронавирус породи безпрецедентна „инфодемия“. Потокът от информация за вируса е достъпен и споделен онлайн, но голяма част от него е невярна или неточна. Това рискува да създаде объркване и недоверие и в крайна сметка да бъде опасно за здравето на хората.В отговор на това Европейската комисия и Върховният представител на ЕС по въпросите на външните работи и политиката за сигурност пуснаха съвместно съобщение, в което изложиха основните предизвикателства, възникнали в резултат на настоящата криза, както и конкретни действия, които могат бързо да бъдат предприети за справяне с тях.Едно такова действие е ангажимент за засилване на подкрепата за проверка на факти и изследователски дейности чрез предоставяне на инструменти за откриване, анализ и разобличаване на дезинформация. Съвместният изследователски център сега работи за това два от ключовите инструменти, с които разполага, да бъдат с отворен код, така че специалистите, борещи се с дезинформацията за коронавируса, да може да ги използват и адаптират.Повечето фалшиви новини са написани на език, който умишлено да предизвиква силни емоции и страх. Това означава, че експертите могат да създадат софтуерни програми, които да идентифицират модели на езика и бързо да откриват дали нещо може да е фалшива новина, или не.Класификаторът Misinfo открива фалшиви новини чрез измерване на „кресливостта“ на езика в дадена информация, използвайки алгоритъм за машинно обучение, разработен от JRC.Не може да има 100% откриване на фалшиви новини, но алгоритъмът за машинно обучение на JRC има около 80% успеваемост. Това е сравнимо с най-добрите постижения в тази област.Инструментът в момента се използва от Комисията и Европейския парламент и ще бъде предоставен на реномирани организации за проверка на фактите през следващите седмици, така че експертите да могат по-лесно да идентифицират възможни фалшиви новини и да разобличат направените твърдения.С инструмента за социални слухове Social Rumors могат да се проследяват неверни съобщения и кой ги изпраща. С него може да се търсят уебсайтове, на които не може да се има доверие. Това помага на експертите бързо да получат представа откъде идват фалшивите истории. Софтуерът идентифицира редица акаунти в „Tуитър“, които разпространяват връзки към известен „непроверен“ източник и търсят какви други връзки се публикуват, за да установят какво се разпространява в социалните медии.Инструментът се използва и от Комисията и от Европейския парламент и ще бъде предоставен на организациитe, които желаят да имат достъп до класификатора Misinfo, така че да могат по-добре да идентифицират нови и новопоявили се дезинформации.Експертите на JRC имат дългогодишно сътрудничество със Световната здравна организация, което се оказа жизненоважно за справяне с тази пандемия. Този опит ще бъде използван, за да се гарантира успехът на предприетите действия, посочени в съобщението на Комисията. Платформата Epidemics Intelligence from Open Source (EIOS) е в резултат на сътрудничество между СЗО и JRC и е базирана на инструмента за медицинска информация на медийния мониторинг (MEDISYS) на JRC, който събира до 120 000 статии на ден, свързани с пандемията от коронавирус.Платформата помага за сортирането на тази информация и я предоставя във вид, достъпен за експерти по целия свят, които проследяват пандемията. Той помогна на СЗО да открие първите признаци на огнището на COVID-19 в Ухан в края на декември миналата година и оттогава се използва за проследяване на разпространението на болестта в световен мащаб. Включително може да предвиди кога болестта е на прага ни.Данните от EIOS също се подават в COVID-19News Map, която показва десетте най-нови статии, свързани с COVID-19, на оригиналните им езици.Излагането на гражданите на широкомащабна дезинформация, включително подвеждаща или пряко невярна информация, е голямо предизвикателство за Европа. Комисията работи за прилагане на ясен, всеобхватен и широк набор от действия за справяне с разпространението и въздействието на онлайн дезинформацията в Европа и гарантиране на защитата на европейските ценности и демократични системи.JRC извършва обширни изследвания на фалшивите новини. От идентифициране на източници на дезинформация до проследяване на тенденциозни съобщения усилията са в посока да се откриват подобни съобщения на ранен етап и да се предоставят на анализаторите инструменти за противодействие на опасните съобщения.Европейският медиен монитор (EMM), разработен от JRC, обхваща около 300 000 статии на ден от традиционните новинарски сайтове. При такъв обем информация е необходим специфичен софтуер, за да се класифицира информацията по области на политиката и да се групира, за да се намерят най-добрите информации.

*Статията е публикувана в най-новия, юнски брой на Joint Research Centre (JRC) – Newsletter