Let's change the location a bit, travel, dive into the world of cars.
The presentation format is unique, not an interview, and it has become a tradition. I minimized the hour-long dialogue, which became so interesting for both parties that it doubled the previously agreed regulations.
Let's focus on the conceptual aspects of AI. The policy of the BMW Group will become clear to you, I will try.
Without undue modesty, I will leave the complementarity that has developed in our dialogue with the management of BMW Poltava.
So, imagine that on a sunny morning you and I, friends, found ourselves in the city of Poltava, where at the premium junction of the Kyiv-Kharkiv highway, with an amazing infrastructure in bright and juicy natural tones, we are greeted by a futuristic portal of the BMW car brand.
Dozens of brand new Bavarian cars on the sidewalk and inside form an ultra-modern model range. There is purity and order everywhere, the globality of engineering thought of the creator is felt, we see style and power of the giant German Concern. The island of Germany in Ukraine.
Andriy Yuriyovych, the director of the car showroom, greets us hospitably walking with a stride and a friendly smile
We walk together into a huge room with nice and pleasant young people who are politely communicating on elegant leather sofas with customers, and catch a breath after being in the unbearable heat. As expected, the climate control in the room was refreshed with coolness and freshness. Here and there, brand new BMWs have frozen, their silhouettes are traditionally cast with power and luxury. The interior impresses with a refined unique German style.
We slowly went up the steps to the second level, which presented us with a gorgeous aerial view of the small town of BMW. Then, we went to the spacious office of the director. The staff we met along the way smiled pleasantly and we exchanged greetings. A nice girl Tatiana, a marketer, offered a branded tall glass with the label of the Bavarian company. A sip of mineral water, and we start our communication! ..
The monitoring of the flagships of the global automotive industry, conducted by me the day before, showed that the German concern BMW Group was one of the first to be actively involved in the protection of consumer rights in connection with the use of Artificial Intelligence.
Representatives of the company soberly assessed the risks and benefits of using AI, as well as the fact that without AI it is simply impossible to imagine a modern car.
BMW Group experts have publicly stated that Artificial Intelligence is already used in 400 operations that are integrated into the company's product chain.
The German automaker has created a code of ethics for AI. ‘We are working purposefully and carefully to expand AI applications within the company,’ said in the company's headquarters. The focus is still on people, and the role of AI is to support employees and ameliorate the quality of customer service.
The automaker BMW Group has developed seven principles for AI in the company, based on the requirements formulated by the EU (on the relevant Concept of the European Union, we will dwell in more detail later in a special publication).
These principles will be constantly adjusted as AI penetrates into the company's various spheres of activity.
Я звертаюся до нашого співрозмовника:
- Поділіться, будь ласка, Вашими враженнями про взаємодію Штучного Інтелекту з концерном BMW.
В руках у мене планшет, в якому періодично м'яко роблю позначки.
- Поліна, Вам знайомі німецька пунктуальність, їх здоровий перфекціонізм? – поцікавився Андрій Юрійович, і я кивнула у відповідь. – Так ось, природним чином ці риси притаманні всьому, чим німці займаються всерйоз. А виробництво автомобілів BMW – це дуже серйозно! У концерні працює близько 130 тисяч співробітників, а річний оборот компанії перевищує 100 мільярдів євро – це більше ніж ВВП багатьох країн, що розвиваються. Це свій світ і філософія. Керівництво BMW Group суворо дотримується законодавства і вживає заходів до своєчасного реагування на всі виклики сучасного світу. Штучний Інтелект тому не виключення. Питання адміністрування діяльності компанії за допомогою систем ШІ, моделі безпілотного керування транспортними засобами і багато-багато іншого, – все це знаходить місце в стратегічному плануванні BMW Group. До речі, у серпні німецька делегація традиційно відвідала нас з діловим візитом, оскільки ми є офіційним дилером BMW в Полтавському регіоні.
Деякі вузькі технічні характеристики, виробничого характеру, на яких професійно зупинявся директор, я опускаю.
- О, це прекрасно, що європейські колеги регулярно приїжджають до Вас, це дає можливість тримати руку на пульсі! (Директор широко посміхнувся моїм словам). Я багато читала про BMW Group, коли готувалася до нашої зустрічі, Андрій Юрійович, щоб наш діалог став максимально ємним і конструктивним. Світ навколо нас стрімко змінюється, технічний прогрес настає семимильними кроками і компанія BMW безумовно світовий лідер у технологіях. Одним з наслідків такого прогресу є так звана оптимізація числа співробітників: машини замінюють людей, і їх просто скорочують. Як це торкнулося Ваших німецьких колег?
- Поліна, Ви маєте на увазі, чи не порушуються права людини в такому промисловому гіганті, як BMW?
- Саме так. Можливо, Вам відомі подібні факти, Андрій Юрійович?
- Ні, мені не відомі випадки порушень прав співробітників компанії при звільненні або скороченні в зв'язку з використанням Штучного Інтелекту. З іншого боку, я знаю, що в минулому році через економічну кризу, пов'язану з пандемією COVID-19, концерн не продовжив контракти з 10-ма тисячами співробітників, їх звільнили. Це сумно.
- Я згодна з Вами! А скажіть, Андрій Юрійович, як із цим справи безпосередньо у Вас? Я, звичайно, розумію, що Ваш автосалон у прямому сенсі не є частиною BMW Group. Ви працюєте за ліцензією компанії, і в правовому полі України. І все ж, Ваших співробітників не торкнулася подібна «оптимізація» у зв'язку з використанням Штучного Інтелекту?
- Ні. У нас працює кілька десятків фахівців, всі офіційно працевлаштовані і задоволені своїм робочим місцем. У наших реаліях ШІ не замінить нікого. Хіба що мене, – Андрій Юрійович щиро розсміявся, і я не втрималася, посміхнувшись йому у відповідь.
Діалог раптово перервався. До кабінету увійшли кілька людей, вибачилися за турботу, і показали директору якісь папери. Андрій Юрійович також вибачився і запропонував зробити невелику перерву, оскільки виникла необхідність у виробничій нараді.
Маркетолог Тетяна запросила мене на чашечку кави, але я відмовилася, хотілося озирнутися. І ми прогулялися по автосалону. З подивом я виявила, що крім машин в салоні розташувався і фірмовий магазин BMW з масою оригінальних аксесуарів для транспортних засобів, стильними спортивними костюмами, футболками, куртками, шарфами, сувенірами, посудом та іншими «ласощами» з лейблом BMW. У приміщенні автосалону BMW Полтава було людно.
Як правозахисник я не втрималася і тихенько запитала у Тетяни, які проблеми у співробітників, чи не порушуються їх права? На що Тетяна соромливо посміхнулася і похитала головою. Потім нас знову запросили на другий рівень. Ми освіжились прохолодною мінералкою з високих келихів із позначкою BMW і продовжили.
- Я бачу, як Ви зайняті, Андрій Юрійович, і не займу багато часу ...
- Що Ви, Поліна! – Ввічливо зупинив мене господар кабінету, – Адже ми домовилися з Вами про нашу зустріч заздалегідь! До того ж, мені самому цікава тема нашої розмови. Я не очікував подібного знання предмета з Вашого боку. Адже ви ще зовсім юні! А в бесіді створюється враження, що розмовляєш з професіоналом. Мене зацікавила Ваша правозахисна діяльність!
- Дякую Вам, мені дуже приємно. Тоді перейдемо безпосередньо до кодексу етики для Штучного Інтелекту, розроблених BMW Group. Компанія розробила сім принципів для взаємодії з іноземними інвестиціями. Я впевнена, Андрій Юрійович, Ви добре з ними знайомі.
Директор кинув погляд на стильний монітор перед собою.
- Вірно, Поліна! Перший і, ймовірно, найважливіший принцип – це «Людські участь і нагляд». Таким чином, концерн декларує і закріплює правило, за яким компанія стежить за всіма рішеннями, прийнятими додатками Штучного Інтелекту, і встановлює способи, якими люди можуть скасовувати ці рішення...
Я пожвавилася і дозволила собі розвинути задану тему:
- Це дуже важливо! Адже незаперечний пріоритет людини над машиною до цього часу офіційно в світі не закріплений! Я недавно вступила в дискусію з британським експертом у сфері управління капіталами. Він прогнозує і барвисто описує переваги заміни людських ресурсів програмним забезпеченням. Однак при цьому ні слова не говорить про долю тисяч людей, які опиняться без роботи. Якою стане їхня доля?
- Ми здогадуємося, що їх чекає, – відреагував директор. – І що ж він Вам відповів, Поліна? Цей британець.
- Мовчить. Поки що. Я розумію, що світ недосконалий, але це не привід опускати руки!
- Поліна, а Ви не бажаєте часом у нас працювати? Я так розумію, Ви досконало володієте англійською? А нам потрібен фахівець у сфері комунікації! А коли закінчите університет, ми розглянемо Вашу кандидатуру на керівну посаду. У нас Альянс на кілька автомобільних брендів.
Я широко посміхнулася:
- Дякую за Вашу пропозицію, Андрій Юрійович, мені дуже приємно. Але в даний час у мене інші плани. Англійську вже вважаю рідною мовою, регулярно спілкуюся з американськими і європейськими колегами, і навіть викладаю трошки дітям. А, повертаючись до предмету нашої розмови, ще раз підкреслю основний посил моєї правозахисної діяльності – не може ШІ стояти над вирішенням людини!
- І все ж питання з пропозицією про працевлаштування ми залишимо відкритим, – відповів директор і продовжив. – Другий принцип для ШІ в BMW Group – це «Технічна надійність і безпека». Розробка надійних додатків Штучного Інтелекту і дотримання застосовних стандартів безпеки, щоб знизити ризик непередбачених наслідків і помилок. Далі, «Конфіденційність і управління даними». Будь-яку інформацію потрібно надійно зберігати і обробляти, щоб не потрапила у руки зловмисників! Ризики хакерства і шпигунства на таких орбітах високі!
Я згідно кивнула. Тетяна розташувалася в кріслі навпроти мене і з непідробним інтересом вбирала інформацію. Директор продовжував:
- Ще одним принципом є «Прозорість». Додатки ШІ повинні бути зрозумілі, щоб їх можна було легко застосувати.
П'ятий принцип: «Різноманітність, недискримінація та справедливість». BMW Group: «поважає людську гідність і тому докладає зусиль щодо забезпечення справедливих додатків ШІ».
Наступний, це «Екологічне та соціальне благополуччя». Даний принцип зобов'язує BMW розробляти і використовувати такі додатки ШІ, які сприяють комфорту клієнтів, співробітників і партнерів.
І, нарешті, останній принцип (за рахунком, не за значенням): «Відповідальність». BMW Group зобов'язується оцінювати і знижувати ризики використання ШІ. Щоб Штучний Інтелект працював відповідно до корпоративного духу компанії.
Я опустила більш детальний опис принципів, суть нам зрозуміла.
- Дякую, Андрій Юрійович, Ви чудово поінформовані! BMW Group дійсно комплексно підходить до питань дотримання законодавства. А коли, на Ваш погляд, ми дізнаємося результати застосування даних принципів? Їх аналіз (за хронологією) і заявлену еволюцію?
- Поліна, зізнаюся, Ваші питання вражають глибиною думки! Ви маєте на увазі, коли BMW Group відзвітує перед суспільством про виконання перерахованих принципів?
- Саме так! Адже ніхто на сьогодні їх до цього не зобов'язує. Я згодна, що принципи викладені професійно і барвисто. А що далі? Що стоїть за ними? Вони не носять декларативний характер? Скільки, наприклад, у цьому році виявлено некоректних рішень ШІ, які скасовані в BMW Group згідно з Першим принципом?
- Думаю, це службова інформація, Поліна. Публічно ці питання не висвітлювалися.
- Значить, ми ніколи цього не дізнаємося, адже так, Андрій Юрійович?
- Не готовий відповісти. Можливо, дізнаємося, а може бути, і ні. Ніхто не ставить за обов'язок компанії звітувати з цих питань.
- Ось цю реальність я і хочу змінити, Андрій Юрійович! Те ж саме стосується роботи, наприклад, нашого уряду. Другого грудня минулого року Кабмін затвердив Концепцію розвитку ШІ в Україні. Термін її виконання 10 років. Пройшов майже рік, і що? Коли ми, громадяни України, дізнаємося результати? Як зрозуміємо, що хоч щось робиться у нас в цьому напрямку?
Директор знизав плечима і, мовчки, посміхнувся.
- Саме тому я Першого червня, у День захисту дітей, звернулася до Президента України з Петицією про встановлення Дня Штучного Інтелекту.
- А дата? В який день відзначати День ШІ?
- Щороку, Другого грудня. У цей день Кабміном затверджено Концепцію розвитку ШІ в Україні.
- А що святкувати?
- Це не свято, Андрій Юрійович, як і День Захисту дітей, це привід до дії! Визнання глобальності невирішених проблем і своєрідна точка звіту для уряду: відзвітувати перед суспільством про виконану роботу, про успіхи та невдачі, про вжиті заходи до того, щоб уникнути катастрофи. Ви ж чули, як охарактеризував проблему Штучного Інтелекту Ілон Маск?
- Поліна, нагадайте мені, будь ласка.
- Ілон Маск ще три роки тому заявив, що Штучний Інтелект для людства страшніше ядерної зброї. Багато хто любить наводити як приклад Маска, як генія сучасності, але чомусь залишають поза увагою і адекватної реакції це його твердження. До слова, Ілону Маску я також написала лист для того, щоб об'єднати зусилля і встановити День ШІ в світі відповідною Резолюцією ООН. Раніше, ще в червні, я направляла в ООН звернення на цю тему, але вони поки залишені без уваги.
Директор знову широко посміхнувся, кинув погляд на здивовану Тетяну, і заплескав у долоні:
- Мої оплески! Браво! Поліна, я захоплений Вашими ініціативами! Ваш глобальний і сміливий погляд на життя заслуговує на підтримку і повагу! Ми підтримаємо Вашу Петицію Президенту!
Я кивнула і посміхнулася. Багато хто так каже. Але тих, хто проголосував за мою Петицію чомусь значно менше. Але це не головне.
- Дякую Вам, Андрій Юрійович, буду рада, якщо у Вас знайдеться для цього час! Мені дуже сподобалося у Вас! Дуже красиво і стильно. Дуже приємні співробітники. Все на висоті! Якщо мої знайомі захочуть придбати собі новеньку BMW, обов'язково порекомендую звернутися до Вас!
- Нехай приїжджають всі Ваші друзі. До нас їдуть з усієї України! Ми одні з перших в країні оновлюємо модельний ряд! Гарантія, сервіс. Ласкаво просимо!
- І мені дуже б хотілося, як правозахиснику, щоб усі задекларовані принципи BMW Group строго дотримувалися компанією при створенні безпілотних транспортних засобів!
- Повністю Вас підтримуємо, Поліна! – Андрій Юрійович говорив серйозно. – І це стосується всіх флагманів автопрому!
Ми чемно попрощалися, обмінявшись координатами для подальшої співпраці. Я ж змогла в цей день трошки ознайомитися з Полтавщиною і заявляю Вам, що це дуже гарний і привітний край!
І я планую сюди ще приїхати!
Друзі! У даний час розглядаю ще кілька ділових пропозицій щодо правозахисної комунікації. Однак часу і можливостей подорожувати об'єктивно небагато. До того ж, у даний час проходжу два курси online у Гарварді. І розпочався новий навчальний рік в університеті!
Але ми будемо продовжувати нашу діяльність, і вірити в краще!
Zaporizhzhia-Poltava-Zaporizhzhia, Ukraine, August-September 2021.
With respect and hope for peace, health and cooperation,
International Human Rights Defender on Artificial Intelligence
Polina Prianykova
© Copyright by Polina Prianykova_all rights reserved