Jak bezpečně zavést AI do firmy a neriskovat únik dat?

Bezpečné používání AI je pro firmy klíčové. Bez jasných pravidel hrozí únik dat, porušení GDPR i reputační škody. Podívejte se, jak AI zavádět zodpovědně a jak chránit firemní data i samotné zaměstnance.

Shadow AI: Významné riziko, kterému lze snadno předejít

Jedním z největších současných problémů je tzv. shadow AI – situace, kdy zaměstnanci využívají veřejné nástroje umělé inteligence nevhodným způsobem a bez vědomí firemního IT oddělení. Pro zaměstnance se jedná o rychlý způsob, jak si usnadnit práci, pro firmu to ale může znamenat nechtěné sdílení citlivých dat mimo firemní prostředí.

Jak k tomu dochází? Většina volně dostupných generativních AI nástrojů má totiž ve výchozím nastavení zapnuté trénování modelů. To v praxi znamená, že vše, co do chatu vložíte, se stává součástí dat, která poskytovatel dále využívá k vylepšování nástroje. Změnou tohoto nastavení se však problém neřeší. Důležitá je také povaha informací, které do nástroje zaměstnanec vkládá – například zadáním osobních údajů zákazníků či kolegů vzniká nejen bezpečnostní a reputační riziko, ale také jde o přímé porušení GDPR.

Téma pro firmy i zákonodárce: AI Act přináší jasná pravidla

Rostoucím rizikům spojeným s AI se věnuje i legislativa. Evropský AI Act, první komplexní regulace umělé inteligence na světě, nastavuje rámec pro bezpečné, férové a transparentní používání AI v EU. Nejde o omezování technologií, ale o zajištění toho, aby byly používány odpovědně. Regulace rozlišuje čtyři úrovně rizika – od minimálního po vysoké, kam spadá například využití AI v oblasti HR. Obecně platí, že čím větší vliv má technologie na lidi, tím přísnější požadavky musí splnit.

Pro malé a střední firmy zmíněná regulace znamená zejména:

• mít přehled o používaných AI nástrojích,

• zajistit základní AI gramotnost zaměstnanců,

• hlídat využití AI v citlivých procesech,

• vědět, kdo nese odpovědnost – u hotových řešení často leží na jejich poskytovatelích.

Správně nastavená práce s AI ale není jen povinnost. Je to také příležitost, jak budovat důvěru zákazníků a získat konkurenční výhodu.

Jak AI zavádět bezpečně?

Firmám se vyplácí přistupovat k zavádění AI systematicky. Pokud AI nasadíte srozumitelně a bezpečně, zaměstnanci ji budou používat efektivně a bez obav. Pokud to neuděláte, inovace vám může snadno přerůst přes hlavu. Existují dvě základní cesty:

1) Zavést integrované firemní řešení

Tou nejbezpečnější variantou je pořídit si nástroj, který je plně integrován do firemního prostředí – například Microsoft 365 Copilot. Ten zajistí, že:

• data zůstávají uvnitř firmy,

• nejsou využívána k trénování modelu třetí stranou,

• přístup k nim se řídí podle firemních oprávnění,

• je minimalizováno riziko úniku nebo zneužití informací.

2) Nastavit jasná pravidla pro používání veřejných AI nástrojů

Pokud se firma zatím nechce pouštět do implementace vlastního řešení, měla by alespoň zavést jednoduchý rámec, který sníží rizika používání veřejně dostupných modelů. Doporučené minimální zásady jsou následující:

• Zaměstnanci mohou používat AI jen pro práci s veřejně dostupnými informacemi. Výborné je to na brainstorming, rešeršování nebo generování obecných textů.

• Konkrétnější dotazy musí být anonymizované. Příklad místo „Napiš e-mail pro pana Nováka z firmy ABC o nabídce 50 000 Kč za naši službu XY,“ zadat „Napiš formální e-mail pro klienta s cenovou nabídkou za službu.“

• Nikdy nenahrávat klientská data, osobní údaje, hesla, interní know-how či jiné citlivé informace.

• Průběžně vzdělávat zaměstnance a opakovaně otevírat téma bezpečného používání AI.

Zavádění AI do firmy může být obrovskou příležitostí – pokud k němu přistoupíte promyšleně. Bez jasných pravidel ale roste riziko úniku dat, porušení legislativy i ohrožení reputace. Ať už zvolíte integrované řešení typu Microsoft 365 Copilot, nebo nastavíte pravidla pro práci s veřejnými nástroji, důležité je vždy jedno: mít AI pod kontrolou.