AI có vấn đề về niềm tin. Blockchain có thể trợ giúp không?
Việc sử dụng blockchain trong kinh doanh, như theo dõi chuỗi cung ứng, đã gặp khó khăn. Nhưng một số người cho rằng công nghệ này có thể trở thành công cụ phù hợp để kiểm tra các thuật toán AI
By
Isabelle Bousquette
11:2024 sáng theo giờ ET ngày 7 tháng 00 năm XNUMX
Khó khăn trong việc đảm bảo các thuật toán trí tuệ nhân tạo là an toàn, không thiên vị và chính xác đang khiến một số công ty chuyển sang sử dụng một công nghệ từng được thổi phồng là có khả năng biến đổi, nhưng điều đó lại không thể bắt kịp trong kinh doanh: blockchain.
Được biết đến với vai trò củng cố bitcoin và các loại tiền điện tử khác, blockchain là một cấu trúc dữ liệu cho phép tạo ra một sổ cái kỹ thuật số về các giao dịch và chia sẻ nó giữa một mạng máy tính. Nó sử dụng mật mã để cho phép mỗi người tham gia trong mạng thêm vào sổ cái một cách an toàn mà không cần cơ quan trung ương. Khi một giao dịch được thực hiện, blockchain vẫn là một bản ghi bất biến về nó.
Với ý nghĩ đó, các nhà cung cấp công nghệ FICO, một công ty phân tích dữ liệu và công ty khởi nghiệp tập trung vào blockchain Casper Labs cho biết họ đang áp dụng công nghệ này để theo dõi quá trình xây dựng và đào tạo các thuật toán AI.
Họ nói rằng đây là một ứng dụng kịp thời và cấp bách khi AI phát triển nhanh chóng trên các lĩnh vực kinh doanh và các công ty nhận thấy rằng họ không phải lúc nào cũng có thể tin tưởng vào kết quả đầu ra của nó. Đồng thời, các cơ quan quản lý của chính phủ đang gây áp lực nhiều hơn lên các công ty để tăng tính minh bạch và khả năng kiểm toán của các thuật toán.
Việc sử dụng blockchain trong kinh doanh trước đây, bao gồm theo dõi chuỗi cung ứng, đã không thu hút được sự chú ý trên thị trường. Liệu sự hấp thu lớn của AI có thể là làn gió dưới cánh của blockchain hay không vẫn chưa được xác định.
Scott Zoldi, giám đốc phân tích của FICO, cho biết Blockchain có thể được sử dụng để theo dõi chính xác thuật toán đã được đào tạo về dữ liệu nào, khi nào, bởi ai, cũng như những bước khác đã được thực hiện để kiểm tra và xác minh dữ liệu đó. Ông nói, các công ty xây dựng mô hình AI thường cố gắng theo dõi dấu vết dữ liệu đó, nhưng việc sử dụng blockchain sẽ giúp việc tạo ra các hồ sơ được chia sẻ, nhất quán và đáng tin cậy dễ dàng hơn.
Ông nói, Blockchain sẽ không ngăn các thuật toán đi chệch hướng hoặc thể hiện sự thiên vị – nhưng nó sẽ cung cấp một hồ sơ có thể kiểm tra được để giải thích lý do tại sao.
“Chúng tôi nhận thấy rằng blockchain có thể chia nhỏ mọi thứ thành các hợp đồng nhỏ có kích thước vừa phải. Chúng tôi có thể xác nhận rằng mỗi bước đó đều được thực hiện ở mức độ chi tiết rất cao”, Zoldi nói. “Có một mức độ minh bạch và trung thực khi có được tính bất biến đó.”
Blockchain không phải là câu trả lời cho khả năng giải thích hoặc vấn đề “hộp đen” trong các mô hình AI. Bản thân nó sẽ không xác định được lý do tại sao mô hình AI lại đưa ra một câu trả lời cụ thể. Những gì nó hứa hẹn là những hồ sơ tốt hơn sẽ giúp trả lời câu hỏi đó, Zoldi nói.
Một số CIO tỏ ra hoài nghi. Scott duFour, giám đốc thông tin của công ty thanh toán Fleetcor Technologies, cho biết: “Tất cả chúng ta đều hướng tới việc quản trị AI tốt hơn, nhưng việc sử dụng blockchain giống như một cái búa đang tìm một chiếc đinh”. Ông nói, Blockchain có thể giúp tăng cường niềm tin vào các hệ thống AI, nhưng chỉ khi nó bổ sung cho các công cụ khác đã được sử dụng để giúp các nhà thiết kế hiểu và giải thích các dự đoán trong các mô hình AI.
Hiện tại, công cụ của FICO đang được sử dụng nội bộ nhưng có kế hoạch triển khai nó cho khách hàng vào cuối năm nay.
Ở những nơi khác, Casper Labs có trụ sở tại Thụy Sĩ đang hợp tác với IBM để phát triển công cụ riêng cung cấp “kiểm soát phiên bản”: Nó ghi lại dữ liệu và tham số nào đang ảnh hưởng đến một mô hình nhất định tại một thời điểm nhất định và liệu các công ty có bắt đầu phát hiện sai lệch hoặc không chính xác trong mô hình của họ hay không , họ có thể trở lại phiên bản cũ hơn, Giám đốc điều hành Mrinal Manohar cho biết.