EvaAI – Giải pháp tiên phong về Explainable AI của QAI

EvaAI là giải pháp do QAI phát triển nhằm giải thích quyết định của các hệ thống Trí tuệ nhân tạo. Đây là một lĩnh vực rất mới và có tiềm năng phát triển rất lớn trong bối cảnh sự xuất hiện, chi phối và vai trò của Trí tuệ nhân tạo ngày càng tăng trong sản xuất cũng như đời sống.

Cụ thể, EvaAI có thể chỉ ra cho người dùng biết được khía cạnh nào của dữ liệu (Data) có ảnh hưởng lớn nhất đến hành vi của hệ thống AI. Để làm được điều đó, hiện nay EvaAI đang ứng dụng các thuật toán SOTA trong lĩnh vực XAI như GradCAM++, RISE, D-RISE… Anh Nguyễn Võ Thành Khang (QAI.CoE) – Trưởng nhóm nghiên cứu EvaAI cho biết, nhóm đang xúc tiến việc đưa các thuật toán do chính người QAI tạo ra như SeCAM, SGradCAM… để tối ưu chất lượng giải pháp. Trong đó, SeCAM từng là nghiên cứu đoạt giải Best Paper Award của FPT AI Conference (FAIC) 2021.

Nhờ có các thuật toán XAI tự phát triển bởi người FPT chứ không chỉ đơn thuần là một công cụ “xài lại” các thuật toán có sẵn, EvaAI tối ưu hơn về hiệu suất cũng như độ chính xác so với các giải pháp XAI hiện hành. “Một điểm mạnh nữa của EvaAI so với các đối thủ đó là nó được phát triển theo hướng đa-zi-năng, có thể nhận và phân tích rất nhiều loại file model AI khác nhau như .h5, .pb, .pt… chứ không yêu cầu cứng nhắc một loại file đầu vào”, Nguyễn Trương Thành Hưng (QAI.CoE) – thành viên nhóm phát triển EvaAI chia sẻ.

Anh Khang cho biết thêm: “Thách thức lớn nhất của chúng tôi đó là nhóm chưa có nhiều kinh nghiệm trong việc phát triển một giải pháp trở thành sản phẩm hoàn chỉnh. Tuy nhiên, chúng tôi đang dần học hỏi từ các sản phẩm khác của QAI. Rất may mắn cho EvaAI là được sinh ra trong một gia đình QAI có rất nhiều ‘anh chị em’ sản phẩm ra đời trước nên nhiều bài học kinh nghiệm chúng tôi có thể học được để tránh phải trả cái giá quá đắt”.

Hiện nay, QAI vẫn đang chào đón các nhân sự, nhất là nhân sự phát triển phần mềm để cùng cộng tác, bởi mặc dù nhóm rất tự tin trong lĩnh vực RnD về XAI song nếu chỉ có thuật toán tốt thì không thể hình thành sản phẩm được. Hiện tại, toàn bộ việc phát triển desktop app chỉ do duy nhất một người triển khai. Được biết, đội ngũ của EvaAI hiện có 5 thành viên: Nguyễn Võ Thành Khang, Nguyễn Trương Thành Hưng, Cao Quốc Hưng, Trương Văn Bình, Nguyễn Quốc Khánh đều là các AI Scienctist trẻ tuổi.

Nói về thị trường hiện nay, thực tế nhu cầu về XAI đã và đang phát triển song hành với nhu cầu về AI. Trong bối cảnh AI đang phủ sóng mạnh mẽ từng ngày thì nhu cầu về XAI cũng rất lớn. Về mặt pháp lý, các bộ luật hiện hành như The General Data Protection Regulation (GDPR) quy định rất rõ rằng cần có lời giải thích cho mỗi quyết định của các hệ thống Trí tuệ nhân tạo nhằm đảm bảo sự an toàn cho con người, do vậy XAI có căn cứ pháp lý vững chắc để tồn tại. Các tập đoàn công nghệ lớn như IBM, AWS, Google, Microsoft… đều đã bắt tay phát triển các dịch vụ XAI trên các nền tảng của mình.

Trước mắt, mục tiêu của nhóm EvaAI chính là hoàn thiện XAI cho hệ thống nhận dạng vật thể (object detection), sau đó có thể triển khai thử nghiệm cho các dự án và sản phẩm của QAI. Gần nhất, sản phẩm akaCam đã được nhóm áp dụng XAI nhằm “khám sức khỏe” và đưa ra “phác đồ điều trị” cho AI model của sản phẩm. Tất cả những nỗ lực này là nhằm tìm ra một quy trình (flow) giúp cải thiện chất lượng các AI Model thông qua kết quả “chẩn bệnh” của EvaAI.

Thành Hưng