У межах проєкту Erasmus + Жан Моне Модуль «Надійний штучний інтелект: європейський підхід» відбувся круглий стіл «In AI We Trust. Чи можна довіряти штучному інтелекту?»
Виникнення генеративного штучного інтелекту та стрімке поширення його застосування призвело до появи чималої кількості питань, занепокоєнь та викликів. Постають питання етичності та прозорості використання ШІ, достовірності та упередженості, допустимих меж застосування ШІ та багато інших.
Сьогодні в багатьох країнах з’являється законодавство, покликане регулювати використання ШІ, зокрема в березні 2024 року в Європейському Союзі було прийнято AI Act, покликаний дати відповіді на більшість з цих питань.
Обговоренню цих викликів, а також можливим стратегіям регулювання застосування ШІ як в Україні, так і в світі було присвячено круглий стіл «In AI We Trust. Чи можна довіряти штучному інтелекту?» організований в межах виконання проєкту Erasmus + Жан Моне Модуль «Надійний штучний інтелект: європейський підхід» («Trustworthy artificial intelligence: the European approach») № 101085626 – TrustAI – ERASMUS-JMO-2022-HEI-TCH-RSCH за підтримки Європейської Комісії.
До роботи круглого столу приєдналося понад 50 учасників: представники ІТ-компаній, що займаються розробками із використанням штучного інтелекту, юристи, науковці, медики, представники державних органів влади, аспіранти та студенти.
Роботу круглого столу розпочала координаторка проєкту, к.т.н., доцент кафедри АСУ Анастасія Дорошенко із презентацією на тему «Надійний ШІ: від принципів до практики», яка розповіла про основні вимоги, що висуваються сьогодні до систем ШІ з точки зору прозорості, надійності, етичності та законності, для того, щоб такі системи були неупередженими та заслуговували на довіру під час використання.
Про основні тенденції регулювання штучного інтелекту в Україні розповіла аналітикиня Центру Дністрянського Дарина Бойко. Зокрема, надзвичайно цікавим та корисним для аудиторії стало порівняння можливих підходів, які можуть бути в основі сьогоднішнього українського регулювання: Bottom-up, який передбачає використання інструментів «саморегуляції» галузі ШІ, Top-down – із дотриманням традиційного законодавчого регулювання галузі ШІ (як, наприклад, AI Act у ЄС) та Middle out – із використанням інструментів співрегулювання між державними органами та головними стейкхолдерами галузі.
Про основи забезпечення довіри до систем ШІ з технічної точки зору розповіла Lead Data Scientist у фінтех-компанії та консультант з Data Science/Artificial Intelligence Ольга Нарушинська. У своїй доповіді «Основи (не)довіри до AI» Ольга Нарушинська зупинилась на трьох основних компонентах,грамотний вибір кожного з яких сприяє довіри до систем, що використовують ШІ – це дані, моделі та метрики. Було розглянуто основні проблеми, які можуть виникати із даними, що може призвести до упередженості в роботі системи, проілюстровано такі випадки на реальних прикладах, здійснено огляд моделей та метрик, які доцільно використовувати для отримання достовірних результатів.
Надзвичайно цікавим був виступ к.ю н, доцента кафедри політології та міжнародних відносин Інституту гуманітарних та соціальних наук Національного університету «Львівська політехніка» Петра Сухорольського на тему «Регулювання ШІ: проблеми і суперечності», під час якого не лише було розглянуто різні типи регуляцій ШІ, що можуть бути застосовані, але й було висвітлено основні відмінності між сильним та слабким ШІ, оцінено ймовірність появи сильного ШІ, а також здійснено огляд найсвіжіших світових досліджень, що демонструють виклики та загрози, які з’являються сьогодні у зв’язку із поширенням використання систем ШІ.
Технічну сторону підвищення довіри до систем, що використовують машинне навчання продемонстрував к.т.н. , доцент кафедри СШІ Національного університету «Львівська політехніка» Іван Ізонін у своєму виступі на тему «Інтерпретоване ансамблеве навчання: каскадні методи». Іван Ізонін розповів про переваги використання нейроподібної структури МПГП, запропонованої професором Романом Ткаченком, окреслив переваги її застосування порівняно із іншими відомими моделями, а також детально розповів про варіанти покращення даної моделі як з почки зору точності результатів, так і швидкості роботи завдяки створенню каскадного ансамблю на базі МПГП.
Про один з найбільш популярних підходів з точки зору підвищення довіри до систем ШІ, а саме використання пояснюваного ШІ розповіла Наталія Шаховська, д.т.н., професорка, завідувачка кафедри СШІ, ІКНІ Національного університету «Львівська політехніка», членкиня експертно-консультаційного комітету з питань розвитку сфери Штучного Інтелекту в Україні при Міністерстві Цифрової трансформації України у своєму виступі «Моделі пояснювального штучного інтелекту для аналізу Великих даних». Зокрема, було детально розглянуто розв’язання задач, що базуються як на роботі із текстовими даними, так і на аналізі зображень та відео. Однак, спільною рисою всіх розглянутих прикладів було те, що серед можливих моделей, які могли застосовуватись для розв’язання поставлених завдань перевага надавалась тим, в яких є можливість пояснити те, чому було прийняте саме таке рішення.Такий підхід відповідає основним вимогам, що сформульовані сьогодні у AI Act та інших регулятивних документах щодо застосування методів ШІ.
Завідувач кафедри АСУ Національного університету «Львівська політехніка» д.т.н. , професор Василь Теслюк у своєму виступі «Штучний інтелект в розумному місті: виклики та перспективи» розповів про те, із якими основними викликами може бути пов’язане використання методів ШІ в розумних будинках, містах та системах загалом. Професор Теслюк підкреслив необхідність забезпечення балансу між використанням сучасних інтелектуалізованих компонентів в системах, що розробляються та забезпечення основоположних прав та свобод громадян, які використовуватимуть ці системи.
Робота круглого столу завершилась обговоренням почутого, учасники мали можливість обмінятись думками щодо перспектив розвитку ШІ в Україні та світі, а також власним баченням щодо того, як буде регулюватись питання використання методів ШІ в різних системах. Зустріч, що об’єднала фахівців із дуже різних галузей знань та сфер діяльності, наукових інтересів надала чудову можливість подивитись на знайомі питання та проблеми з різних точок зору, що, своєю чергою, безперечно може стати гарною рушійною силою для майбутніх досліджень.
