Wdrażanie projektów IT oraz obsługa informatyczna firm wymaga sporządzania umów określających rodzaj wykonywanych usług, sposoby na pomiar ich efektywności oraz zakres gwarancji. Rozwój sztucznej inteligencji i stosowanie jej w oprogramowaniach dla firm spowodowały, że zarówno zleceniodawcy, jak i zleceniobiorcy w branży IT stanęli przed nowymi wyzwaniami związanymi z właściwym zabezpieczeniem swoich praw.

Podczas warsztatów Postanowienia umowne i realizacja kontraktów na rozwiązania IT, które odbędą się w dniach 26-27.04.2023r. specjaliści wyjaśnią jaki rodzaj umów należy podpisywać i jak poprawnie je konstruować w świetle najnowszych przepisów związanych z AI.

Umowy wdrożeniowe

Wprowadzanie AI do firmy może stanowić dla niej punkt zwrotny w rozwoju i pozyskiwaniu nowych klientów. Jednak, aby w pełni korzystać z zalet nowoczesnych rozwiązań, przedsiębiorstwa muszą zadbać o właściwe sporządzenie umów dotyczących wdrożenia systemu. Pierwszą zasadą podczas tworzenia umowy powinno być skrupulatne podejście do zawartych w niej zapisów. Im więcej szczegółów dotyczących wzajemnych wymagań zostanie uwzględnionych w umowie, tym łatwiejsze będzie późniejsze rozliczanie się z wykonawcą lub dochodzenie swoich roszczeń przed sądem. Ważnym aspektem jest również przeprowadzenie analizy przedwdrożeniowej, która pozwoli określić szczegółowy zakres koniecznych działań i późniejsze ujęcie ich w umowie wdrożeniowej.

Wykorzystywanie danych przez systemy z AI 

Wykorzystywanie danych przez sztuczną inteligencję wzbudza wiele kontrowersji. Wprowadzane przez UE regulacje dotyczące większej swobody pozyskiwania danych, mają na celu zwiększenie konkurencyjność wszystkich krajów członkowskich w porównaniu z państwami spoza Unii Europejskiej. Mają również wpłynąć na wyrównanie szans rozwoju sektora MŚP. Jednak niepokój budzi ryzyko pojawienia się zjawiska handlu danymi lub nieprawne ich wykorzystywanie. Dlatego ważną informacją z zakresu AI Act jest zapewnienie o nadrzędności przepisów RODO w kwestiach spornych odnośnie do ochrony danych. W przypadku podpisywania umowy wdrożeniowej oraz umów związanych z obsługą systemów,  standardem stało się zawarcie również umowy o przetwarzaniu danych osobowych. Wykonawca może wykorzystywać powierzone dane jedynie w zakresie koniecznym do prawidłowego wykonania zlecenia.

Kto będzie ponosił odpowiedzialność, jeśli okaże się, że wdrożona w przedsiębiorstwie sztuczna inteligencja (pobierająca dane z zasobów firmy) podaje niewyjaśnialne lub nieetyczne wyniki?

Tego rodzaju zagadnienia są jednym z najważniejszych wątków prac nad regulacjami AI, które w tym momencie są prowadzone w Brukseli. Regulacje proponowane w ramach AI Act generalnie zakładają odpowiedzialność dostawcy rozwiązania AI. Natomiast dyrektywa AILD (Artificial Intelligence Liability Directive) ma określać odpowiedzialności cywilnej za działania sztucznej inteligencji. Nadal czekamy jednak na finalny kształt, jaki przyjmą te regulacje. - komentują dr Łukasz Borowiecki, Współzałożyciel i CEO, 10 Senses i Marek Zieliński, CTO, 10 Senses.

Stosowanie wyjaśnialnych modeli AI

Wyjaśnialne modele AI są kolejnym warunkiem prawidłowego funkcjonowania umów dotyczących, między innymi wdrożenia oprogramowania w przedsiębiorstwie. Każdy system zawierający sztuczną inteligencję powinien posiadać jasno określone algorytmy pozyskiwania danych. Zagrożeniem jest wykorzystywanie przez AI danych, które mogą w efekcie końcowym dyskryminować lub faworyzować określone grupy. Dlatego ważnym aspektem jest umożliwienie odtworzenia procesów jakie przeprowadza sztuczna inteligencja i stałe monitorowanie ich poprawności.

Metody Proof Of concept i MLOps

Wdrożenie w firmie systemów sztucznej inteligencji jest nie tylko kosztowne, ale wymaga również dużego zaangażowania ze strony właścicieli i pracowników. Istotną sprawą jest wybór właściwych i sprawdzonych rozwiązań. Podpisując umowę wdrożeniową dobrze jest zawrzeć w niej wytyczne dotyczące  Proof Of Concept i MLOps. PoC pozwoli przetestować planowane rozwiązania pod kątem faktycznej przydatności w danym przedsiębiorstwie. Dzięki temu, jeszcze przed etapem rozpoczęcia projektu, odrzucone zostaną wszelkie błędne założenia. Machine Learning Operations jest kompleksowym działaniem z algorytmami, które pozwala wychwycić błędy i sprawić, że system będzie działał z odpowiedni sposób i spełni założenia wynikające z projektu.

Odpowiedzialność w zakresie outsourcingu IT

Outsourcing usług w IT jest bardzo wygodną formą zlecenia pracy w specjalistycznym obszarze  szeroko pojętej  informatyki.  Jednak ze względu na specyfikę branży, mogą pojawiać się problemy związane z precyzyjnym określeniem zakresu usług, kontroli wykonanych prac oraz odpowiedzialności za poszczególne procesy. Z punktu bezpieczeństwa danych powierzonych przez zleceniodawcę firmie outsourcingowej, niezwykle ważne jest szczegółowe określenie, kto faktycznie będzie wykonywał zlecone zadanie. Częstą praktykę stanowi zatrudnianie podwykonawców, którzy zajmują się poszczególnymi zagadnieniami. Zleceniodawca, dla własnego bezpieczeństwa, powinien mieć prawo do kontrolowania powstałego łańcucha outsourcingowego i zapewnić sobie możliwość wnoszenia sprzeciwu, jeśli dany wykonawca nie wzbudzi jego zaufania. Dzięki temu zleceniodawca zmniejsza ryzyko między innymi niekontrolowanego wypływu danych osobowych lub ujawnienia tajemnicy przedsiębiorstwa.Trzeba pamiętać, że administratorem danych osobowych jest zleceniodawca i to on będzie ponosił odpowiedzialność w przypadku wystąpienia incydentu z ich ujawnieniem.

Czy w świetle rozwoju AI,  firmy będą rezygnować z outsourcingu w obszarze IT z obawy przed incydentami związanymi z wypływem danych i oddaniem kontroli nad sztuczną inteligencją w ręce zewnętrznych podmiotów? Własny dział IT lub zatrudniony informatyk co do zasady może wzbudzać większe zaufanie i pewność zachowania tajemnicy.

W naszej opinii firmy nie będą rezygnować z korzystania z zewnętrznych dostawców usług AI. Z tego co widzimy mało jest firm na rynku, które mają na tyle silne i wszechstronne zespoły, że mogą się obejść bez posiłkowania się kompetencjami z zewnątrz. Oczywiście wątek bezpieczeństwa jest bardzo ważny. W praktyce firmy organizują pracę poprzez środowiska wirtualne i zarządzanie dostępem do danych. Dzięki temu dane nie opuszczają firmy, a zarazem podwykonawcy mają dostęp tylko do wybranych zasobów danowych. Ogromne znaczenie ma również budowanie kompetencji wykorzystania danych wewnątrz firmy. Dzięki temu firmy mogą o wiele bardziej świadomie korzystać z usług podwykonawców dostarczających wybrane rozwiązania technologiczne. - mówią dr Łukasz Borowiecki, Współzałożyciel i CEO, 10 Senses i Marek Zieliński, CTO, 10 Senses.

Gwarancja w przypadku wdrożenia oprogramowania  i obsługi IT

W umowach wdrożeniowych zawiera się zapisy dotyczące gwarancji na oprogramowanie. W okresie obowiązywania gwarancji, zleceniodawca ma zapewnione bezpłatne usuwanie wszelkich błędów i usterek pojawiających się w oprogramowaniu.  Zapisy muszą konkretnie wskazywać za jakie wady odpowiada zleceniobiorca. Umowa gwarancyjna powinna również określać czas wykonania naprawy oraz kary umowne za niewywiązanie się ze zobowiązań. Gwarancja nie obejmuje usług związanych z utrzymaniem sieci i monitoringiem działania programu. W celu pozyskania takich usług należy podpisać odrębną umowę ze zleceniobiorcą.

Umowa SLA (Service Level Agreement) o gwarantowanym poziomie usług powinna szczegółowo określać zakres usług, sposób pomiaru wywiązywania się z zadań i czas reakcji w odniesieniu do konkretnych zdarzeń. W dużych i złożonych projektach warto stworzyć kilka mniejszych SLA niż jedną dużą umowę, w której znacznie trudniej będzie wyodrębnić obszary odpowiedzialności i określić sposób pomiaru wszystkich wykonywanych prac. Powszechną praktyką stosowaną w przypadku SLA jest zawieranie klauzul dotyczących kar umownych. Kary umowne mają za zadanie zagwarantować terminowe i zgodne z zapisem wykonywanie usług. Istotną kwestią jest, aby była podana ich wysokość lub sposób wyliczenia.