- Wdrażanie sztucznej inteligencji wymaga coraz większej niezawodności, bezpieczeństwa oraz integracji z istniejącymi systemami. Dlatego też Targa Telematics, wspólnie z Gruppo Zenit i Hewlett Packard Enterprise (HPE), opracowała rozwiązanie łączące innowacyjność, ochronę danych i wartość biznesową.
- W ciągu pierwszych siedmiu tygodni od wdrożenia platforma obsłużyła prawie 30.000 zapytań od programistów, przetworzyła ponad 3,4 miliarda tokenów i wygenerowała 65 milionów tokenów odpowiedzi.
Targa Telematics, jeden ze światowych liderów w obszarze AIoT (Artificial Intelligence of Things), tworzący rozwiązania cyfrowe i platformy dla mobilności połączonej, informuje o wdrożeniu lokalnego środowiska programistycznego opartego na generatywnej sztucznej inteligencji (LLM) i modelach o otwartych wagach. Rozwiązanie zostało zaprojektowane z myślą o wsparciu zespołów programistycznych i przyspieszeniu innowacji w całej firmie.
Projekt, zrealizowany na platformie Hewlett Packard Enterprise (HPE) we współpracy z Gruppo Zenit, dostawcą usług zarządzanych, specjalizującym się w projektowaniu i zarządzaniu wysokowydajną infrastrukturą centrów danych i sieci, zaowocował powstaniem korporacyjnej platformy AI wykorzystywanej przez 150 inżynierów. Celem tego przedsięwzięcia było stworzenie środowiska programistycznego łączącego wysoką wydajność, pełną kontrolę nad danymi, bezpieczeństwo oraz elastyczność umożliwiającą dalszy rozwój.
Platforma wykorzystuje modele AI o otwartych wagach, dzięki czemu wnioskowanie odbywa się w całości w ramach własnej infrastruktury firmy, bez konieczności przesyłania danych I informacji zastrzeżonych do chmur publicznych lub usług stron trzecich. Pozwala to Targa Telematics korzystać z tempa innowacji oferowanego przez ekosystem open source, przy jednoczesnym zachowaniu kontroli nad zasobami informacyjnymi, zarządzaniem modelami oraz ich dostosowywaniem do konkretnych wymagań biznesowych.
W sytuacji, gdy firmy muszą równoważyć rosnące wykorzystanie generatywnej lub agentowej sztucznej inteligencji z koniecznością ochrony swoich zasobów informacyjnych, Targa Telematics opracowała w pełni lokalną platformę, dzięki której żadne dane firmowe nie są przekazywane do zewnętrznej infrastruktury i chmur publicznych.
Platforma, wykorzystywana przede wszystkim do wspierania prac związanych z programowaniem, pełni również funkcję asystenta AI. Uruchamianie modeli LLM we własnym środowisku firmy gwarantuje, że informacje zawsze pozostają pod kontrolą Targa Telematics. Podejście to ma kluczowe znaczenie dla spełnienia rosnących wymogów regulacyjnych i rynkowych dotyczących suwerenności danych, cyberbezpieczeństwa i zgodności, przy jednoczesnym zachowaniu elastyczności potrzebnej do testowania nowych modeli AI.
Inicjatywa Targa Telematics wynikała z jasno określonego celu. „Generatywna sztuczna inteligencja w coraz większym stopniu staje się codziennym narzędziem naszych programistów. Chcieliśmy stworzyć w pełni lokalne środowisko programistyczne, zachowując jednocześnie pełną kontrolę nad naszym kodem, danymi i technologicznym know-how” — powiedział Carlo Stefanelli, CTO Targa Telematics. „Podejście lokalne, oparte na modelach o otwartych wagach, ma kluczowe znaczenie dla zapewnienia, że wszystkie informacje pozostają w całości w naszym środowisku korporacyjnym, co pozwala nam wspierać innowacje bez uszczerbku dla bezpieczeństwa danych i kontroli nad nimi”.
Gruppo Zenit uczestniczyła w projektowaniu solidnej infrastruktury skoncentrowanej na bezpieczeństwie, ciągłości działania i długoterminowym zarządzaniu danymi. Rozwiązanie zbudowano z wykorzystaniem technologii Hewlett Packard Enterprise (HPE), które zapewniają moc obliczeniową niezbędną do wnioskowania AI, a także narzędzia potrzebne do zagwarantowania niezawodności, skalowalności i bezpiecznego zarządzania środowiskiem lokalnym.
„Sztuczna inteligencja może generować wartość tylko wtedy, gdy infrastruktura, na której się opiera, została zaprojektowana tak, aby była bezpieczna, skalowalna i łatwa w zarządzaniu. Naszą rolą jest wspieranie firm w tworzeniu ekosystemów, w których innowacje i ochrona danych mogą rozwijać się równolegle. Projekt zrealizowany wspólnie z Targa Telematics pokazuje, w jaki sposób eksperymenty z AI można przekształcić w platformę gotową napędzać rozwój biznesu” — powiedział Giuseppe Barbera, CEO Gruppo Zenit.
Wyniki potwierdzają wartość podejścia Targa Telematics. W ciągu pierwszych siedmiu tygodni od wdrożenia, platforma obsłużyła prawie 30.000 zapytań od programistów, przetwarzając ponad 3,4 miliarda tokenów i generując 65 milionów tokenów odpowiedzi. Dane te pokazują solidność lokalnej infrastruktury, a także szybkie przyjęcie rozwiązania przez zespoły programistyczne firmy.
Dzięki temu projektowi Targa Telematics wzmacnia swoje kompetencje w obszarze generatywnej sztucznej inteligencji i rozwija model lokalnej infrastruktury, który będzie można powielać w przyszłych zastosowaniach.