Nvidia NeMo AI Mampu Jadi Solusi Baru AI yang Aman dan Andal

Jakarta, Gizmologi – Dalam dunia kerja modern, agen AI telah menjadi salah satu teknologi paling revolusioner yang membantu meningkatkan produktivitas. Dengan kemampuan untuk menyelesaikan berbagai tugas, agen AI kini membantu lebih dari satu miliar pekerja pengetahuan di seluruh dunia. Namun, untuk memastikan implementasi yang aman, perusahaan perlu memperhatikan aspek kepercayaan, keamanan, dan kepatuhan. Nvidia hadir dengan solusi inovatif bernama Nvidia NeMo AI, khususnya melalui NeMo Guardrails dan NIM (NeMo Inference Microservices), yang memberikan perlindungan optimal untuk aplikasi AI generatif.

NeMo Guardrails adalah bagian dari platform Nvidia NeMo AI yang dirancang untuk mengelola, menyesuaikan, dan mengamankan aplikasi berbasis Large Language Model. Dengan menggunakan microservices ini, pengembang dapat membangun agen AI yang lebih aman, andal, serta sesuai dengan pedoman spesifik yang relevan dengan konteks penggunaannya. Teknologi ini telah digunakan di berbagai industri, mulai dari layanan pelanggan hingga manufaktur dan ritel, untuk meningkatkan kepercayaan pengguna terhadap AI.

Salah satu fitur utama NeMo Guardrails adalah kemampuan untuk melindungi sistem AI dari percobaan jailbreak atau manipulasi. Dengan begitu, aplikasi AI dapat memberikan respons yang aman dan relevan dalam berbagai situasi. Beberapa perusahaan ternama seperti Amdocs, Cerence AI, dan Lowe’s telah mengadopsi teknologi ini untuk meningkatkan keamanan dan kinerja aplikasi AI mereka.

Baca Juga: NVIDIA GeForce RTX Membuka Era Baru Cloud Gaming

Teknologi NeMo Guardrails: Menjaga AI Tetap Terkendali

Dalam penerapannya, Nvidia NeMo Guardrails memperkenalkan tiga microservices utama untuk memastikan AI beroperasi dalam batas-batas yang aman:

1. Content Safety NIM: Microservice ini bertugas memastikan bahwa AI tidak menghasilkan output yang bias atau berbahaya. Dengan menggunakan dataset Aegis Content Safety yang berkualitas tinggi, AI dapat memberikan respons yang etis dan sesuai standar.
2. Topic Control NIM: Teknologi ini menjaga agar percakapan tetap fokus pada topik yang disetujui. Hal ini membantu mencegah percakapan melenceng ke topik yang tidak relevan atau tidak pantas.
3. Jailbreak Detection NIM: Microservice ini melindungi sistem dari upaya manipulasi atau jailbreak, sehingga integritas AI tetap terjaga bahkan dalam skenario yang bersifat adverarial.

Dengan menggabungkan beberapa model kecil yang ringan namun sangat spesifik, NeMo Guardrails mampu mengisi celah yang sering kali tidak dapat dijangkau oleh kebijakan global atau perlindungan yang terlalu umum. Teknologi ini juga dirancang untuk bekerja secara efisien di lingkungan dengan sumber daya terbatas, seperti rumah sakit atau gudang, sehingga sangat cocok untuk aplikasi berskala besar.

Nvidia juga membuka akses NeMo Guardrails untuk komunitas open-source, sehingga para pengembang dapat mengintegrasikan teknologi ini dengan berbagai alat observasi dan pengembangan AI. Dengan pendekatan ini, Nvidia mendorong pengembangan AI yang lebih aman dan dapat diandalkan di berbagai sektor industri.

Kolaborasi Nvidia dengan Pemimpin Industri

Banyak perusahaan besar telah mengadopsi NeMo Guardrails untuk meningkatkan keandalan aplikasi AI mereka. Misalnya, Amdocs menggunakan teknologi ini untuk memastikan respons AI di platform amAIz mereka lebih aman, akurat, dan relevan secara kontekstual. Anthony Goonetilleke, Presiden Grup Teknologi di Amdocs, menekankan bahwa teknologi seperti NeMo Guardrails sangat penting untuk menjaga keamanan dan etika dalam aplikasi generatif AI.

Cerence AI, yang fokus pada solusi AI untuk industri otomotif, juga memanfaatkan NeMo Guardrails. Teknologi ini membantu memastikan bahwa asisten dalam mobil memberikan interaksi yang aman, sesuai konteks, dan bebas dari halusinasi. Nils Schanz, Wakil Presiden Eksekutif di Cerence AI, menyebutkan bahwa fleksibilitas dan kemampuan kustomisasi NeMo Guardrails memberikan nilai tambah bagi pelanggan mereka.

Selain itu, Lowe’s, salah satu peritel terbesar di Amerika Serikat, menggunakan generative AI yang didukung oleh NeMo Guardrails untuk memberikan akses pengetahuan produk yang lebih baik kepada staf mereka. Dengan teknologi ini, staf dapat membantu pelanggan menemukan produk yang tepat, sekaligus meningkatkan pengalaman belanja secara keseluruhan.

Masa Depan AI yang Lebih Aman dengan Nvidia NeMo AI

Nvidia terus berinovasi lewat Nvidia NeMo AI untuk mendorong adopsi AI yang aman dan terkendali di berbagai sektor dan hal ini terlihat dari datangnya Nvidia NeMo AI. Kemudian, salah satu upaya terbaru adalah peluncuran Nvidia Garak, toolkit open-source yang dirancang untuk menguji kerentanan model LLM. Dengan Garak, pengembang dapat mengidentifikasi potensi kelemahan seperti kebocoran data, prompt injection, hingga skenario jailbreak.

Lewat Nvidia NeMo AI atau NeMo Guardrails juga mendukung integrasi dengan berbagai penyedia alat keamanan AI, seperti ActiveFence untuk penyaringan konten berbahaya, Hive untuk deteksi konten berbasis AI, serta Fiddler AI Observability untuk memantau guardrail secara lebih mendalam. Platform pengembangan AI seperti Weights & Biases juga telah memperluas kapabilitasnya dengan mendukung integrasi NeMo Guardrails.

Dengan kolaborasi ini memastikan bahwa teknologi Nvidia NeMo AI tidak hanya relevan untuk kebutuhan saat ini, tetapi juga siap menghadapi tantangan masa depan. Dari layanan pelanggan hingga industri otomotif, Nvidia NeMo AI membuka peluang baru bagi pengembang dan perusahaan untuk mengadopsi AI yang aman, andal, dan sesuai dengan kebutuhan spesifik mereka.

Artikel berjudul Nvidia NeMo AI Mampu Jadi Solusi Baru AI yang Aman dan Andal yang ditulis oleh Christopher Louis pertama kali tampil di Gizmologi.id