Nội dung bài viết
Một vấn đề nguy hiểm hiện nay là AI tạo sinh được huấn luyện để tạo văn bản mạch lạc và giọng điệu tự tin, khiến con người tắt đi cơ chế phản biện, theo bà Thái Trà My, giáo sư tại Đại học Florida.
GS.TS Thái Trà My là nữ giáo sư gốc Việt duy nhất đạt danh hiệu IEEE Fellow, cấp bậc thành viên cao nhất của Học viện kỹ sư Điện và Điện tử (Institute of Electrical and Electronics Engineers), Mỹ.
Bà hiện công tác tại Đại học Florida (Mỹ), đồng thời là Phó giám đốc viện Nelms và Tổng biên tập ACM Computing Surveys, tạp chí có hệ số ảnh hưởng cao nhất về lý thuyết và phương pháp khoa học máy tính.
Nhân dịp ra mắt cuốn sách về AI đầu tiên bằng tiếng Việt, bà chia sẻ với VnExpress về hành trình trở thành một nhà nghiên cứu AI có ảnh hưởng tại Mỹ, đồng thời đưa ra những khuyến nghị để Việt Nam trở thành "quốc gia mạnh về AI".
GS.TS Thái Trà My trình bày một keynote về mô hình ngôn ngữ lớn an toàn, minh bạch. Ảnh: NVCC, Cơ duyên nào đưa bà đến với lĩnh vực khi học máy và AI hơn 20 năm trước vẫn là khái niệm như trong phim viễn tưởng?, Năm 1995, tôi bắt đầu theo học hai chuyên ngành toán và khoa học máy tính.
Tôi không bắt đầu từ AI, mà từ toán tối ưu, bị cuốn hút bởi một câu hỏi rất cơ bản: làm thế nào để tìm được lời giải tốt nhất giữa vô số khả năng khác nhau. Ban đầu, tôi nghiên cứu những bài toán tối ưu mạng thông tin, cải thiện mức độ an toàn và hiệu suất mạng.
Dần dần, một cách tự nhiên các bài toán đưa tôi đến với AI, vốn cũng là một hình thức tối ưu, theo nghĩa mô hình có thể hành động như thế nào để có đầu ra tốt nhất. Khi đó AI chưa phổ biến như bây giờ.
Tôi cũng không nghĩ mình đang theo đuổi một công nghệ mới, chỉ đơn giản theo đuổi những bài toán hấp dẫn, những câu hỏi mà mình thấy đáng để dành nhiều năm tìm hiểu.
Đầu những năm 2010, các mô hình học sâu bắt đầu thực hiện khá hiệu quả các tác vụ nhận diện hình ảnh, chữ viết, giọng nói hay tìm hình mẫu lặp lại trong dữ liệu. Tuy nhiên, khi đó các mô hình vẫn như những "hộp đen", chúng ta biết đầu vào và đầu ra, nhưng không biết quá trình xử lý như thế nào.
Câu hỏi lớn nhất với tôi là làm sao có thể tin tưởng được kết quả, hay biết tại sao nó sai hoặc đúng để cải tiến, điều chỉnh. Đây cũng là lý do tôi đi sâu hơn vào hướng AI có thể giải thích được.
Chẳng hạn, khi chúng ta đưa cho mô hình một hình ảnh để chẩn đoán bệnh, cần biết nó đã nhìn vào điểm ảnh nào hay những yếu tố nào để đưa ra kết luận. Đi sâu hơn, tôi nhận ra rất nhiều vấn đề về học máy và ra quyết định cuối cùng đều dẫn trở lại những nguyên lý toán tối ưu.
Đến bây giờ, điều giữ tôi ở lại vẫn là sự tò mò ban đầu và sự đam mê tuyệt đối với khoa học., Nền tảng khoa học cơ bản ảnh hưởng thế nào đến cách bà tiếp cận nghiên cứu AI?, Với tôi, một trong những điều quan trọng nhất toán học dạy chúng ta là sự phân biệt giữa trực giác và sự thật.
Có rất nhiều điều trông có vẻ đúng cho đến khi chúng ta cố gắng chứng minh. Tôi cho rằng bên cạnh toán, một người nghiên cứu AI cũng cần có tư duy về triết học.
Tư duy kỹ thuật sẽ giúp trả lời câu hỏi "làm thế nào để hệ thống này chạy nhanh hơn, dự đoán chính xác hơn". Thế nhưng, triết học sẽ buộc chúng ta dừng lại và hỏi "sự chuẩn mực chính xác đó thực chất đang đại diện cho lợi ích của nhóm người nào và ai sẽ bị bỏ lại phía sau".
Câu hỏi này rất quan trọng đối với AI ngày nay. Ví dụ từ một trường hợp có thật, một tập đoàn công nghệ lớn của Mỹ từng có một mô hình quét hồ sơ ứng viên nhằm loại bỏ hồ sơ không phù hợp trước khi chuyển đến bộ phận nhân sự.
Bằng một cách nào đó, mô hình này có xu hướng loại bỏ hồ sơ ứng viên nữ. Khi phân tích, họ phát hiện, trong dữ liệu huấn luyện, các hồ sơ của nữ giới thường không mạnh bằng nam giới và cũng ít hồ sơ nữ hơn.
Vì thế mô hình tạo ra "lối tắt" để chọn rất nhanh hồ sơ dựa trên giới tính thay vì nội dung thực sự., AI công bằng hay thiên kiến sẽ nằm ở đâu giữa những công thức toán học, dữ liệu?, AI có thể phản chiếu, chuyển hóa, và thậm chí phóng đại những định kiến đã tồn tại sẵn trong lịch sử dữ liệu.
Hơn thế nữa, thiên kiến của AI còn ẩn nấp rải rác ở cách chúng ta thiết kế hàm mục tiêu, cách mô hình tự tối ưu và cả những điều chúng ta quyết định bỏ qua. Tôi nhận ra mức độ nghiêm trọng của vấn đề này khi xây dựng các khung chẩn đoán đa phương thức để phát hiện sớm bệnh Alzheimer.
Hãy thử tưởng tượng nếu một mô hình AI chủ yếu được huấn luyện bằng dữ liệu y tế của những bệnh nhân ở các quốc gia phát triển, thì khi áp dụng vào thực tế, nó có thể hoạt động rất chính xác với họ.
Nhưng nếu dùng chính AI đó chẩn đoán cho một người lớn tuổi ở nông thôn Việt Nam, nơi thói quen sinh hoạt, cách biểu đạt ngôn ngữ và văn hóa hoàn toàn khác biệt, mô hình có thể dễ dàng bỏ qua những dấu hiệu sa sút trí tuệ ở giai đoạn đầu tiên.
Trong y tế, một thiên kiến nhỏ của thuật toán có thể dẫn đến việc chẩn đoán sai, đe dọa trực tiếp đến sinh mạng.
Sự bùng nổ về AI khiến nhiều người lầm tưởng về khả năng công nghệ, Trong cuốn "AI hiện đại, Từ nguyên lý cổ điển tới các mô hình nền tảng", có đề cập vấn đề dùng AI sao cho nhanh nhất, hiệu quả nhất mà nhiều người đang quan tâm?
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.