Việc tạo ra các hệ thống trí tuệ nhân tạo (AI) có thể tính đến lý luận ảnh hưởng văn hóa là vô cùng quan trọng trong việc hỗ trợ tính toán chính xác và hiệu quả. Để các hệ thống AI phản ánh các tiêu chuẩn và giá trị, để lý luận và quyết định của chúng phù hợp với mong đợi, thì tạo ra các hệ thống AI có tính đến văn hóa là điều tất yếu.
Hiểu được ảnh hưởng của văn hóa đối với lý luận rất quan trọng trong việc giải quyết xung đột, dự đoán và ra quyết định. Sự lựa chọn của mỗi người bắt nguồn từ môi trường, giáo dục và kinh nghiệm của họ. Việc tạo ra các hệ thống AI có thể tính đến lý luận ảnh hưởng văn hóa là rất quan trọng trong việc hỗ trợ tính toán chính xác và hiệu quả. Để các hệ thống AI phản ánh các tiêu chuẩn và giá trị, để lý luận và quyết định của chúng phù hợp với mong đợi, thì tạo ra các hệ thống AI có tính đến văn hóa là điều tất yếu.
Trước tiên chúng ta hãy nhìn vào việc ra quyết định đạo đức. Các nghiên cứu tâm lý đã chỉ ra rằng mọi người không thực sự nghiêm túc trong lý luận đạo đức. Mọi người bị ảnh hưởng bởi các giá trị được bảo vệ (đôi khi được gọi là giá trị thiêng liêng) hoặc các tiêu chuẩn văn hóa liên quan đến loại hành động nào không được phép. Vấn đề về xe đẩy là một cách cổ điển để khám phá các giá trị được bảo vệ: giả sử rằng, bằng cách bẻ lái, bạn có thể chuyển hướng đầu máy, khiến một người bị trói vào đường ray chết nhưng cứu được nhiều người khác. Liệu ai sẽ làm điều đó? Mặc dù điều này cứu nhiều mạng sống hơn, nhưng có một vấn đề nan giải gắn liền với vấn đề đạo đức, vì sự can thiệp này sẽ trực tiếp khiến ai đó chết.
Có những ví dụ đặc biệt làm nổi bật rằng cách mà các giá trị được bảo vệ có thể khác nhau giữa các nền văn hóa. Giả sử một đô vật, người chưa bao giờ thua trận đấu, đang cầu nguyện vào đêm trước cuộc thi tiếp theo của anh ta. Anh ta tình cờ nghe thấy một người phụ nữ, đối thủ của anh ta, mẹ của anh ta, cầu nguyện rằng con trai cô ta sẽ thắng trận đấu để anh ta có thể sử dụng tiền thưởng để kết hôn. Ngày hôm sau, đô vật cố tình thua trận, và đối thủ của anh ta kết hôn. Nhà nghiên cứu Morteza Dehghani và các cộng tác viên của ông đã sử dụng câu chuyện này để nói với các sinh viên tại Đại học Tehran và Đại học Tây Bắc để đánh giá xem những người tham gia các nền văn hóa khác nhau có lý do để xác định các giá trị được bảo vệ trong một tình huống hay không. Và đó thực sự là những gì họ tìm thấy: các sinh viên Iran, những người biết những câu chuyện về sự hy sinh tương tự, đã ủng hộ việc thua trận đấu, trong khi các sinh viên Mỹ, những người không biết những câu chuyện đó, thì không. Tuy nhiên, khi câu chuyện được thay đổi để các mối quan hệ chính không giống nhau (ví dụ: người mẹ muốn có tiền thưởng để mua cho mình quần áo đẹp), các sinh viên Iran không còn ủng hộ sự hy sinh. Một nguồn của sự khác biệt trong cách tiếp cận ra quyết định trong các tình huống nhất định là những câu chuyện mà mọi người đã tiếp thu từ nền văn hóa của họ. Cái nhìn sâu sắc này cho thấy rằng bằng cách sử dụng sự tương tự trong các hệ thống AI, các hệ thống như vậy có thể nắm bắt chính xác hơn ảnh hưởng của văn hóa đối với sự lựa chọn của con người.
Những tiến bộ gần đây trong mô hình tính toán tương tự trong lĩnh vực khoa học nhận thức đã tạo nền tảng cho các hệ thống AI. Đó là, với một vấn đề mới, một hệ thống có thể sử dụng quy trình truy xuất giống con người để tìm ra tình huống tương tự trước đó và xác định cách áp dụng. Ngoài việc học bằng cách tích lũy các trường hợp, nó cũng có thể xây dựng các khái quát dựa trên các trường hợp đó. Điều này đã được thực hiện với MoralDM, một mô hình tính toán của việc ra quyết định đạo đức được phát triển bởi Dehghani trong thời gian làm Tiến sĩ và làm việc tại Tây Bắc. MoralDM sử dụng các phép loại suy với các câu chuyện cụ thể về văn hóa và các vấn đề trước đó để đưa ra quyết định.
Điều quan trọng, việc thay đổi những câu chuyện có sẵn cho MoralDM để phản ánh những câu chuyện của các nền văn hóa khác nhau (ví dụ, Iran so với Mỹ) khiến cho các quyết định của nó thay đổi theo. Không có câu chuyện về sự hy sinh, MoralDM đề nghị đô vật nên cố gắng giành chiến thắng trong trận đấu, vì điều đó mang đến nhiều lợi ích hơn cho anh ta. Nhưng với những câu chuyện về sự hy sinh, lợi ích của việc giúp đối thủ kết hôn chiếm ưu thế, và hệ thống chủ trương cố tình thua cuộc để đạt được lợi ích này cho người khác.
Gần đây Joe Blass và Kenneth D.Forbus đã mở rộng mô hình này để sử dụng khái quát hóa tương tự, một quá trình học tập giúp loại bỏ các mô hình phổ biến ra khỏi câu chuyện. Ưu điểm của khái quát hóa tương tự là số lượng ví dụ cần thiết để đào tạo các hệ thống sử dụng nó có thể rất nhỏ. Thậm chí 10 ví dụ có thể đủ cho hiệu suất mạnh mẽ trong nhiều nhiệm vụ, ngược lại với các hệ thống máy học thống kê và đặc biệt là các hệ thống học sâu, có thể lấy hàng triệu ví dụ để đạt được hiệu suất hợp lý. Hiệu quả dữ liệu này phát sinh, từ việc sử dụng các biểu diễn giống con người hơn là thường được sử dụng trong học máy. Những đại diện giống con người này mã hóa rõ ràng các mối quan hệ, bao gồm cả ý định, lý do và lập luận. Điều này cung cấp lợi ích cho việc có thể kiểm tra các giả định và lý do đằng sau bất kỳ quyết định nào mà phần mềm đề xuất. Khả năng giải thích này là phù hợp để xây dựng các hệ thống AI đáng tin cậy.
Cách tiếp cận của hai vị giáo sư cho thấy một phương pháp mới cho khoa học xã hội tính toán. Các mô hình toán học cho các hiện tượng văn hóa thường đưa ra nhiều tham số. Các mô hình dựa trên tác nhân đơn giản rất hữu ích để nắm bắt các khía cạnh của hiện tượng phát sinh từ số lượng lớn các tương tác đơn giản. Các hình thức như vậy không có đủ sức mạnh biểu cảm để chịu trách nhiệm cho các đánh giá của con người. Ngược lại, các sản phẩm văn hóa như truyện, văn bản tôn giáo và truyện dân gian cung cấp một nguồn dữ liệu đáng tin cậy cho mô hình văn hóa. Các sản phẩm văn hóa như vậy thường được hình thành và mài giũa qua nhiều thế hệ, chúng cung cấp một ký ức lịch sử và khuôn khổ đạo đức được minh họa bằng các ví dụ, giúp chúng ta đưa ra các quyết định nền tảng trong cuộc sống hàng ngày. Điều này cho thấy một cách mới để mô hình hóa các khía cạnh của một nền văn hóa: thu thập các câu chuyện văn hóa và làm cho chúng có sẵn cho các hệ thống AI ở dạng mà máy móc có thể hiểu và sử dụng.
Điều này có thể được thực hiện? Cho đến nay chỉ có những thí nghiệm nhỏ cho thấy phương pháp này rất hứa hẹn. Trong các thí nghiệm này, các câu chuyện về MoralDM đã được dịch bằng tay, và một hệ thống ngôn ngữ tự nhiên đã được sử dụng để trích xuất các biểu diễn ngữ nghĩa của các sự kiện, diễn viên và động lực trong đó. Tiến bộ hơn nữa trong sự hiểu biết ngôn ngữ tự nhiên sẽ làm cho quá trình này dễ dàng hơn và có thể mở rộng hơn, cuối cùng là đưa các sản phẩm văn hóa về dạng ban đầu của chúng. Do đó, quá trình xây dựng một mô hình văn hóa để ra quyết định đạo đức sẽ là: (1) tập hợp một bộ sản phẩm văn hóa đại diện, (2) dịch sang bất kỳ hình thức ngôn ngữ tự nhiên nào máy có thể được hiểu một cách tự động và (3) đưa chúng vào hệ thống học tập tương tự. Lưu ý rằng hai bước đầu tiên cung cấp một lộ trình kiểm toán tự nhiên, vì cả hai đều liên quan đến ngôn ngữ tự nhiên. Thêm các phương tiện đối thoại và kiểm tra tương tác sẽ đơn giản hóa quá trình kiểm tra xem bản dịch sang các bản trình bày chính thức có chính xác không (hiện đang được thực hiện bởi các chuyên gia AI kiểm tra chúng).
Mô hình này có một số lợi thế so với các hệ thống học máy truyền thống hoặc học sâu. Đầu tiên, tất cả các lý do đều được kiểm tra. Các ví dụ tương tự và khái quát được xây dựng từ các câu chuyện được thể hiện bằng cách sử dụng các biểu diễn quan hệ có thể được dịch thẳng sang ngôn ngữ tự nhiên. Bất cứ ai sử dụng mô hình đều có thể đi sâu vào từng bước của mỗi quyết định, xem chính xác thông tin nào đã được sử dụng. Thứ hai, bản chất hiệu quả dữ liệu làm giảm số lượng sản phẩm văn hóa cần thiết để xây dựng một mô hình. Nó cũng đơn giản hóa việc thực hiện các nghiên cứu để hiểu tại sao các mô hình hoạt động. Ví dụ, phân tích độ nhạy mô hình trên cùng một dữ liệu, các tham số khác nhau có hệ thống để xem kết quả phụ thuộc vào các lựa chọn cụ thể như thế nào.
Tuy nhiên, vẫn có những nghi ngờ rằng cách tiếp cận này xây dựng các mô hình văn hóa thông qua việc học tập tương tự từ văn hóa. Các câu chuyện kể về giáo dục có thể được sử dụng để tìm ra các khía cạnh khác của lý luận văn hóa, bao gồm việc đưa ra dự đoán chính xác về thái độ, lựa chọn và phản ứng của các nhóm văn hóa trong nhiều tình huống. Hơn nữa, kể chuyện là một hoạt động tự nhiên đối với mọi người, vì vậy nhiều người có thể đóng góp cho hệ thống AI những giá trị mà người khác không thể. Do đó, các hệ thống AI trong tương lai có thể phù hợp hơn với các nền văn hóa mà chúng là một phần của chúng, vì chúng sẽ được dẫn dắt bởi các câu chuyện và giá trị văn hóa của chúng ta.
Khi các hệ thống AI trở nên thông minh và linh hoạt hơn, việc chúng trở thành đối tác chính thức trong văn hóa của chúng ta dường như là một tương lai đầy hứa hẹn để đảm bảo rằng AI có lợi trong chính cuộc sống của chúng ta.