Microsoft: AI никога няма да бъде напълно безопасен

Microsoft предупреди за сериозни рискове, свързани с използването на изкуствен интелект (AI). Това се посочва в ново проучване на компанията.

В проучването Microsoft анализира повече от 100 генеративни AI инструмента и идентифицира присъщите рискове за сигурността, свързани с тяхното използване. Компанията казва, че AI „никога няма да бъде напълно безопасен", подчертавайки необходимостта от строг контрол върху това как се обучават езиковите модели (LLM) и проактивни усилия за предотвратяване на грешки.

Microsoft, самата разработчик и интегратор на много AI продукти, включително Bing Chat, GitHub Copilot, Power BI и Azure AI, признава високото ниво на отговорност, свързано с разработването на тази технология. Ето защо компанията активно инвестира ресурси в изследвания на безопасността на AI.

Големите езикови модели (LLM) според изследователите не само увеличават съществуващите рискове, но и създават нови. Обучението на LLM за неправилни или чувствителни данни кара моделите да разпространяват тази информация сред потребителите. Освен това потенциалната вреда от ИИ се оценява като трудна за прогнозиране.

За да подобри сигурността, Microsoft препоръчва строг надзор на всеки етап от обучението по LLM. Те подчертават критичната роля на човешкия фактор, както и необходимостта от привличане на специалисти с дълбоки познания в областта, висока културна компетентност и развита емоционална интелигентност за работа с изкуствен интелект.