У всіх секторах інтерес до ШІ та його використання зростає, оскільки компанії прагнуть реалізувати його переваги. Нещодавно Tesco співпрацювала з провідною університетською дослідницькою групою, використовуючи ШІ та великі дані для раннього виявлення раку яєчників. Здуття живота і розлад шлунку є поширеними симптомами цього типу раку, але зазвичай їх не помічають, вважаючи доброякісними симптомами. Дослідницька група використала дані про споживчі закупівлі з програми клубних карток Tesco, щоб виявити тенденції купівель, які можуть бути пов'язані із цими симптомами у клієнтів, у яких згодом діагностували рак яєчників. Таке раннє виявлення означає, що лікування може бути запропоноване раніше, щоб поліпшити стан пацієнта.
ШІ та машинне навчання все частіше використовуються фінансовими компаніями для визначення споживчих тенденцій, прогнозування потенційних фінансових спадів і оцінки здатності позичальників здійснювати виплати за кредитами. Останні досягнення в галузі ШІ надають значні можливості для поліпшення результатів обслуговування клієнтів, але існують також ризики, про які слід знати компаніям, які прагнуть впроваджувати рішення на основі ШІ.
Автоматизоване обслуговування клієнтів: Чат-боти та віртуальні асистенти тепер можуть обслуговувати клієнтів у режимі 24/7, поліпшуючи взаємодію з клієнтами, зокрема, відповідаючи на поширені запитання. Це зменшить потребу у людському втручанні, яке можна буде зосередити на вирішенні складніших запитів.
Поліпшення управління ризиками: Передбачувані алгоритми можуть визначати потенційні фінансові ризики, допомагаючи фірмам завчасно оцінювати та зменшувати ризики.
Виявлення та запобігання шахрайству та відмиванню грошей: ШІ можна використовувати в режимі реального часу для виявлення та відстеження нетипових шаблонів або транзакцій при обробці великих обсягів транзакцій, що підвищує здатність виявляти потенційне шахрайство та відмивання грошей.
Операційна ефективність: Автоматизація ручних, трудомістких і рутинних завдань може підвищити продуктивність, ефективність і заощадити кошти.
Індивідуальні фінансові продукти: Аналізуючи дані про клієнтів, фірми можуть пропонувати персоналізовані фінансові продукти та послуги, поліпшуючи користувацький досвід і підвищуючи рівень утримання клієнтів.
Надмірна залежність від автоматизації: Надмірна залежність від ШІ може призвести до втрати людського розуміння, що може призвести до прийняття неоптимальних рішень або пропущених ризиків.
Витіснення робочих місць: Оскільки ШІ продовжує автоматизувати різні завдання і процеси, зростає ризик втрати робочих місць.
Ризики, пов'язані з даними: Моделі ШІ якісні настільки, наскільки хороші базові дані, які їх підтримують; неправильні або упереджені дані можуть призвести до неточних прогнозів або неоптимальних рішень, які приймаються моделями ШІ.
Стадний підхід до управління системою: Там, де багато компаній застосовують схожі моделі ШІ, існує підвищений ризик "стадної поведінки" на фінансових ринках, що може посилити волатильність ринку та його чутливість до криз.
Етичні проблеми та проблеми інклюзивності: Рішення на основі ШІ, особливо без належного контролю, можуть призвести до несправедливих, упереджених або дискримінаційних результатів. Фірми мають зважати на свою репутацію, вплив на клієнтів і відповідність регуляторним нормам, особливо щодо упередженості даних, які стосуються захищених характеристик, недостатньо представлених груп або ставлення до вразливих категорій клієнтів.
Технічні збої: Як і будь-яка технологія, системи ШІ можуть давати збої або бути вразливими до кібератак, що призводить до потенційних фінансових втрат, порушень регуляторної дисципліни або шкоди репутації. Слід переглянути системи кібербезпеки, щоб оцінити кібервразливості ШІ та способи їхнього усунення.
26 жовтня 2023 року FCA та PRA опублікували звіт про зворотний зв'язок (FS2/23), у якому виклали основні коментарі стосовно документу DP5/22. Документ для обговорення був опублікований з метою проведення дискусії про ризики, пов'язані зі ШІ, і про те, як регулятори можуть на них реагувати. Деякі з ключових тем, викладених у відгуках, є наступними:
Очікується, що до кінця 2023 року Парламент Великої Британії узгодить остаточний текст Закону ЄС про ШІ, а регулятори, як очікується, підготують подальші рекомендації до кінця березня 2024 року.
Прозорість і конфіденційність даних
У нещодавній статті ICAEW досліджуються питання етики щодо конфіденційності даних і згоди щодо ШІ. У ній йдеться про використання оцінок страхових ризиків на основі ШІ в рамках системи динамічного ціноутворення, що ґрунтується на відповідях клієнтів на запитання анкет про стан здоров'я. Однак потреба у зменшенні загроз для результатів клієнтів є критично важливою, особливо у страховому секторі, де моделі динамічного ціноутворення можуть відображати упередженість або витік даних.
Тому прозорість ШІ, зокрема можливість заглибитися в модель ШІ і зрозуміти процес прийняття рішень, має вирішальне значення для побудови довіри. Це дасть змогу споживачам краще розуміти і ставити під сумнів рішення та результати. Однак у багатьох моделях ШІ (зокрема й у ChatGPT) прозорість є недостатньою, що призводить до парадигми «чорної скриньки», коли системи розглядаються з точки зору вхідних і вихідних даних, без достатнього розуміння внутрішньої роботи та методології.
Упередженість, дискримінація та ESG
ШІ-моделі, створені на основі історичних даних, можуть ненароком закріпити або посилити наявні упередження, про що йшлося в попередній статті про алгоритмічну упередженість і дискримінацію. Широко розрекламований приклад скринінгу резюме на Amazon продемонстрував упередженість щодо жінок, оскільки інструмент відображав упередженість у процесі скринінгу резюме людини. Системи кредитного скорингу або ціноутворення на основі ШІ можуть ставити в невигідне становище певні демографічні групи, якщо попередні дані відображають упереджене ставлення до них. Це може прямо суперечити зусиллям компаній, спрямованим на сприяння різноманітності, рівності та інклюзивності (DEI), коли когнітивні, свідомі та несвідомі упередження впливають на дані навчання.
У найкращому випадку, коли базові дані достатньо незалежні від упереджень, ШІ може допомогти організаціям зрозуміти нерівність і зменшити упередженість у прийнятті рішень. ШІ можна використовувати для кращого моніторингу та скорочення викидів парникових газів, наприклад, шляхом оптимізації виробництва та споживання енергії в комерційних приміщеннях.
Витіснення робочих місць
Автоматизація за допомогою ШІ може зменшити попит на певні професії, оскільки технологія здатна повторювати таку діяльність, особливо щодо виконання вручну завдань на нижчих посадах. Етичні міркування, пов'язані із цим, стосуються соціальних наслідків витіснення, відповідальності компаній перед працівниками, а також впливу на підбір персоналу, розвиток персоналу, управління талантами та планування наступності. З іншого боку, за попередніми оцінками Всесвітнього економічного форуму, хоча штучний інтелект може скоротити понад 80 мільйонів робочих місць, він може створити майже 100 мільйонів нових, а отже, чистий результат буде позитивним.
Фірми повинні бути поінформовані про тип ШІ, який використовується в їхньому бізнесі, і мати налагоджену систему внутрішнього контролю для виявлення та управління пов'язаними з ним ризиками. Оскільки нові моделі ШІ швидко впроваджуються в компаніях, має відбутися відповідне посилення контролю за експериментальним використанням ШІ.
Фірмам слід розглянути доцільність і, за необхідності, вдосконалити механізми управління та нагляду у сфері ШІ.
Вище керівництво та Рада повинні розглянути та зрозуміти відповідні ризики використання ШІ у фірмі, а також функції та обов'язки щодо нагляду за ШІ.
Технологія повинна бути затверджена на вищому рівні, що забезпечить розуміння вищим керівництвом як можливостей, так і ризиків технології та запропонованої системи контролю, а також сприятиме прийняттю обґрунтованих рішень.
Ще одним важливим фактором, який слід враховувати компаніям, є вплив ШІ на результати роботи з клієнтами і роль ШІ в забезпеченні хороших результатів обслуговування клієнтів. Таким чином, компанії повинні взяти на себе зобов'язання щодо постійного аналізу та оцінки впливу на результати роботи з клієнтами та будь-яких потенційних непередбачуваних наслідків, пов'язаних із застосуванням ШІ.
Фахівці BDO з управління та ризик-менеджменту можуть допомогти компаніям у впровадженні, плануванні та контролі ШІ.
Якщо зацікавлені отримати додаткову інформацію або обговорити пропозиції, будь ласка, зв'яжіться з нами.
Джерело: BDO Global
ШІ та машинне навчання все частіше використовуються фінансовими компаніями для визначення споживчих тенденцій, прогнозування потенційних фінансових спадів і оцінки здатності позичальників здійснювати виплати за кредитами. Останні досягнення в галузі ШІ надають значні можливості для поліпшення результатів обслуговування клієнтів, але існують також ризики, про які слід знати компаніям, які прагнуть впроваджувати рішення на основі ШІ.
Які потенційні можливості відкриває штучний інтелект?
Поліпшений аналіз даних та інсайти: Алгоритми ШІ можуть обробляти величезні обсяги даних на високій швидкості, дозволяючи компаніям отримувати дієві висновки зі складних наборів даних. Це може поліпшити процеси прийняття рішень і сприяти поглибленому розумінню динаміки ринку та поведінки споживачів.Автоматизоване обслуговування клієнтів: Чат-боти та віртуальні асистенти тепер можуть обслуговувати клієнтів у режимі 24/7, поліпшуючи взаємодію з клієнтами, зокрема, відповідаючи на поширені запитання. Це зменшить потребу у людському втручанні, яке можна буде зосередити на вирішенні складніших запитів.
Поліпшення управління ризиками: Передбачувані алгоритми можуть визначати потенційні фінансові ризики, допомагаючи фірмам завчасно оцінювати та зменшувати ризики.
Виявлення та запобігання шахрайству та відмиванню грошей: ШІ можна використовувати в режимі реального часу для виявлення та відстеження нетипових шаблонів або транзакцій при обробці великих обсягів транзакцій, що підвищує здатність виявляти потенційне шахрайство та відмивання грошей.
Операційна ефективність: Автоматизація ручних, трудомістких і рутинних завдань може підвищити продуктивність, ефективність і заощадити кошти.
Індивідуальні фінансові продукти: Аналізуючи дані про клієнтів, фірми можуть пропонувати персоналізовані фінансові продукти та послуги, поліпшуючи користувацький досвід і підвищуючи рівень утримання клієнтів.
Які потенційні ризики пов'язані зі ШІ?
Конфіденційність даних: Оскільки ШІ значно покладається на дані, захист конфіденційної інформації набуває особливого значення, оскільки існує можливість неправомірного використання особистої інформації та потенційних порушень кібербезпеки.Надмірна залежність від автоматизації: Надмірна залежність від ШІ може призвести до втрати людського розуміння, що може призвести до прийняття неоптимальних рішень або пропущених ризиків.
Витіснення робочих місць: Оскільки ШІ продовжує автоматизувати різні завдання і процеси, зростає ризик втрати робочих місць.
Ризики, пов'язані з даними: Моделі ШІ якісні настільки, наскільки хороші базові дані, які їх підтримують; неправильні або упереджені дані можуть призвести до неточних прогнозів або неоптимальних рішень, які приймаються моделями ШІ.
Стадний підхід до управління системою: Там, де багато компаній застосовують схожі моделі ШІ, існує підвищений ризик "стадної поведінки" на фінансових ринках, що може посилити волатильність ринку та його чутливість до криз.
Етичні проблеми та проблеми інклюзивності: Рішення на основі ШІ, особливо без належного контролю, можуть призвести до несправедливих, упереджених або дискримінаційних результатів. Фірми мають зважати на свою репутацію, вплив на клієнтів і відповідність регуляторним нормам, особливо щодо упередженості даних, які стосуються захищених характеристик, недостатньо представлених груп або ставлення до вразливих категорій клієнтів.
Технічні збої: Як і будь-яка технологія, системи ШІ можуть давати збої або бути вразливими до кібератак, що призводить до потенційних фінансових втрат, порушень регуляторної дисципліни або шкоди репутації. Слід переглянути системи кібербезпеки, щоб оцінити кібервразливості ШІ та способи їхнього усунення.
Яким є регуляторне поле щодо ШІ?
У жовтні 2022 року Банк Англії (включно з PRA) та FCA опублікували дискусійний документ (DP5/22), в якому попросили надати відгуки про те, як регулятори можуть сприяти безпечному та відповідальному впровадженню ШІ в галузі фінансових послуг Великої Британії. Документ опубліковано у відповідь на підсумковий звіт Державно-приватного форуму з питань ШІ (AIPPF), у якому чітко зазначено, що приватний сектор хоче, щоб регулятори відігравали певну роль у підтримці безпечного впровадження ШІ у фінансові послуги Великої Британії.26 жовтня 2023 року FCA та PRA опублікували звіт про зворотний зв'язок (FS2/23), у якому виклали основні коментарі стосовно документу DP5/22. Документ для обговорення був опублікований з метою проведення дискусії про ризики, пов'язані зі ШІ, і про те, як регулятори можуть на них реагувати. Деякі з ключових тем, викладених у відгуках, є наступними:
- Респонденти вважають, що нинішнє регуляторне поле у сфері ШІ є фрагментарним і складним, а тому синхронізований підхід і узгодженість дій національних і міжнародних регуляторних органів були б особливо корисними.
- Багато учасників підкреслили потребу в більшій уніфікації, особливо при вирішенні таких проблем, пов'язаних з даними, як справедливість, упередженість і управління захищеними характеристиками.
- Регуляторні та наглядові органи повинні приділяти першочергову увагу результатам споживачів, особливо наголошуючи на забезпеченні справедливих та етичних результатів.
- Респонденти зазначили, що наявні структури управління компаніями (та регуляторні рамки, такі як Режим вищого керівництва та сертифікації (SM&CR)) можуть бути достатніми для подолання ризиків, пов'язаних зі ШІ.
Очікується, що до кінця 2023 року Парламент Великої Британії узгодить остаточний текст Закону ЄС про ШІ, а регулятори, як очікується, підготують подальші рекомендації до кінця березня 2024 року.
Інші нюанси для компаній
Використання ШІ в будь-якому секторі пов'язане зі значними етичними нюансами, але особливо актуальними вони є у сфері фінансових послуг.Прозорість і конфіденційність даних
У нещодавній статті ICAEW досліджуються питання етики щодо конфіденційності даних і згоди щодо ШІ. У ній йдеться про використання оцінок страхових ризиків на основі ШІ в рамках системи динамічного ціноутворення, що ґрунтується на відповідях клієнтів на запитання анкет про стан здоров'я. Однак потреба у зменшенні загроз для результатів клієнтів є критично важливою, особливо у страховому секторі, де моделі динамічного ціноутворення можуть відображати упередженість або витік даних.
Тому прозорість ШІ, зокрема можливість заглибитися в модель ШІ і зрозуміти процес прийняття рішень, має вирішальне значення для побудови довіри. Це дасть змогу споживачам краще розуміти і ставити під сумнів рішення та результати. Однак у багатьох моделях ШІ (зокрема й у ChatGPT) прозорість є недостатньою, що призводить до парадигми «чорної скриньки», коли системи розглядаються з точки зору вхідних і вихідних даних, без достатнього розуміння внутрішньої роботи та методології.
Упередженість, дискримінація та ESG
ШІ-моделі, створені на основі історичних даних, можуть ненароком закріпити або посилити наявні упередження, про що йшлося в попередній статті про алгоритмічну упередженість і дискримінацію. Широко розрекламований приклад скринінгу резюме на Amazon продемонстрував упередженість щодо жінок, оскільки інструмент відображав упередженість у процесі скринінгу резюме людини. Системи кредитного скорингу або ціноутворення на основі ШІ можуть ставити в невигідне становище певні демографічні групи, якщо попередні дані відображають упереджене ставлення до них. Це може прямо суперечити зусиллям компаній, спрямованим на сприяння різноманітності, рівності та інклюзивності (DEI), коли когнітивні, свідомі та несвідомі упередження впливають на дані навчання.
У найкращому випадку, коли базові дані достатньо незалежні від упереджень, ШІ може допомогти організаціям зрозуміти нерівність і зменшити упередженість у прийнятті рішень. ШІ можна використовувати для кращого моніторингу та скорочення викидів парникових газів, наприклад, шляхом оптимізації виробництва та споживання енергії в комерційних приміщеннях.
Витіснення робочих місць
Автоматизація за допомогою ШІ може зменшити попит на певні професії, оскільки технологія здатна повторювати таку діяльність, особливо щодо виконання вручну завдань на нижчих посадах. Етичні міркування, пов'язані із цим, стосуються соціальних наслідків витіснення, відповідальності компаній перед працівниками, а також впливу на підбір персоналу, розвиток персоналу, управління талантами та планування наступності. З іншого боку, за попередніми оцінками Всесвітнього економічного форуму, хоча штучний інтелект може скоротити понад 80 мільйонів робочих місць, він може створити майже 100 мільйонів нових, а отже, чистий результат буде позитивним.
Яким буде розвиток ШІ у фінансовому секторі?
Очевидно, що роль ШІ зростатиме й надалі, пропонуючи компаніям чіткі можливості для інновацій, оптимізації процесів та посилення конкурентних переваг, серед багатьох інших. Оскільки компанії прагнуть не відставати від конкурентів у гонитві за впровадженням рішень із використанням ШІ, існує кілька значних ризиків, якими необхідно управляти, і які, якщо їх не контролювати, можуть призвести до посиленого контролю з боку регуляторів, судового розгляду, штрафів і репутаційних втрат. Тому для управління ризиками, пов'язаними зі ШІ, важливо завчасно створити належні умови контролю та механізми управління.Що робити компаніям, коли йдеться про ШІ?
ШІ може створювати як можливості, так і серйозні ризики для компаній, особливо якщо моделі впроваджуються безконтрольно і без належного врахування ризиків, пов'язаних з ними. Існує низка ключових міркувань щодо управління та управління ризиками для компаній, зокрема:Фірми повинні бути поінформовані про тип ШІ, який використовується в їхньому бізнесі, і мати налагоджену систему внутрішнього контролю для виявлення та управління пов'язаними з ним ризиками. Оскільки нові моделі ШІ швидко впроваджуються в компаніях, має відбутися відповідне посилення контролю за експериментальним використанням ШІ.
Фірмам слід розглянути доцільність і, за необхідності, вдосконалити механізми управління та нагляду у сфері ШІ.
Вище керівництво та Рада повинні розглянути та зрозуміти відповідні ризики використання ШІ у фірмі, а також функції та обов'язки щодо нагляду за ШІ.
Технологія повинна бути затверджена на вищому рівні, що забезпечить розуміння вищим керівництвом як можливостей, так і ризиків технології та запропонованої системи контролю, а також сприятиме прийняттю обґрунтованих рішень.
Ще одним важливим фактором, який слід враховувати компаніям, є вплив ШІ на результати роботи з клієнтами і роль ШІ в забезпеченні хороших результатів обслуговування клієнтів. Таким чином, компанії повинні взяти на себе зобов'язання щодо постійного аналізу та оцінки впливу на результати роботи з клієнтами та будь-яких потенційних непередбачуваних наслідків, пов'язаних із застосуванням ШІ.
Як ми можемо допомогти
Фахівці BDO з управління та ризик-менеджменту можуть допомогти компаніям у впровадженні, плануванні та контролі ШІ.
- Огляд систем внутрішнього контролю та управління, пов'язаних зі ШІ;
- Огляд системи звітування, включно з посадами та обов'язками вищого керівництва у сфері ШІ; і
- Розробка та проведення індивідуальних навчальних планів для членів ради директорів.
Якщо зацікавлені отримати додаткову інформацію або обговорити пропозиції, будь ласка, зв'яжіться з нами.
Джерело: BDO Global
