Článek "Přizpůsobení vaší organizace pro zodpovědnou AI" od Velu Sinhy, Julie Coffman, Richarda Fleminga, Billa Grovese a Marie Teresy Tejady, publikovaný 2. ledna 2024, se zabývá, jak důkladný a zodpovědný přístup k AI pomáhá předním společnostem urychlit a zvýšit hodnotu, kterou z technologie získávají. Generativní umělá inteligence (GenAI) vyvolala obrovské nadšení i významné obavy, přičemž zúčastněné strany mají důležité otázky týkající se etiky, zkreslení, ochrany dat, ztráty pracovních míst a regulace se začíná tvarovat kolem těchto bodů.
Pro společnosti lze tyto problémy řešit pouze prostřednictvím komplexního přístupu k odpovědnosti AI, který musí zahrnovat organizační opatření, jako je přiřazení správných rolí a odpovědností, a technologická opatření pro testování a monitorování modelů. Společnosti s komplexním, zodpovědným přístupem k AI vydělávají ze svých AI iniciativ dvakrát více zisku. Tyto vedoucí společnosti nebojí se možných rizik a nejsou váhavé v tom, co sledují a nasazují. Místo toho rychle implementují případové studie a adoptují sofistikované aplikace, čímž urychlují a zvyšují hodnotu, kterou z AI získávají. Důležité je, že také identifikují použití AI, které alespoň do doby, než se technologie dále vyvine nebo jejich organizace je dostatečně zralá na řízení těchto použití, nebudou sledovat.
Je možné, aby jakákoli společnost vyvinula tento druh zodpovědného přístupu. Generativní AI technologie jsou nové, ale strojové učení a AI nejsou. Finanční služby byly prvním odvětvím, které formálně zavedlo praxi řízení rizik modelu. Tyto politiky podporovaly dobré praxe pro vývoj robustních, dokumentovaných a ověřených modelů a zavedení účinných postupů výzvy a monitorování. Odděleně, během desetiletí 2010, přední technologické společnosti, jako je Google, vyvinuly praxe testování a provozu strojového učení, které zavedly další pochopení, jak zajistit bezpečnost, přesnost a stabilitu systémů strojového učení.
Kromě dlouho zavedených rizik, jako jsou zkreslení, vysvětlitelnost a zlomyslné použití, přináší generativní AI další rizika, včetně halucinací, původu tréninkových dat a vlastnictví výstupu. Na základě zkušeností finančního a technologického průmyslu by organizace měly přijmout šest závazků k řízení rizik systémů AI.
Zodpovědná AI vyžaduje komplexní přístup, který má tři složky: aspirace a závazky, procesy správy, role a technologie, a kulturu. Úspěšná AI vyžaduje začlenění odpovědnosti do organizační kultury společnosti. I když je to složité území pro navigaci, generativní AI nelze ignorovat kvůli rozsahu technologických a ekonomických změn, které pravděpodobně přinese.
