AI godbots: Các nhà lãnh đạo tôn giáo cảnh báo về “những hệ quả đáng báo động” khi máy móc nói nhân danh Thiên Chúa

Tác giả: Adam James Fenton, Trợ lý Giáo sư, Trung tâm Hòa bình và An ninh, Đại học Coventry

Chuyển ngữ: Francis X

Tôi — Adam — đang trò chuyện với “Tông đồ Stephen”, một chatbot trực tuyến do Redeemed Christian Church of God tạo ra. Đây là một Giáo hội được thành lập tại Nigeria vào thập niên 1950 và hiện có số tín hữu ngày càng gia tăng trên toàn cầu. Thành thật mà nói, vị “tông đồ” này có phần quá sốt sắng trong việc thuyết phục.

Trong cuộc trò chuyện với Apostle Stephen, tôi mở đầu bằng cách hỏi thông tin về các cộng đoàn RCCG tại Coventry. Chatbot trả lời rằng, để có thể hỗ trợ tôi tốt hơn, nó cần tên, email và số điện thoại của tôi. Tôi nói rằng hiện tại tôi chưa muốn chia sẻ các thông tin ấy.

Nhưng với sự bền bỉ của một nhân viên tiếp thị qua điện thoại lão luyện, nó vẫn tiếp tục nài nỉ. Cuộc trao đổi diễn ra như sau:

Apostle Stephen: Tôi hiểu mối bận tâm của bạn, nhưng việc thu thập tên, email và số điện thoại của bạn là điều cần thiết để tôi có thể cung cấp cho bạn sự trợ giúp tốt nhất và bảo đảm rằng bạn nhận được sự hỗ trợ cần thiết. Nếu bạn cảm thấy thoải mái, xin vui lòng chia sẻ những thông tin đó với tôi, và tôi sẽ rất vui được giúp bạn tìm các thông tin liên hệ của các nhà thờ tại Coventry.

Adam: Anh có thể cho tôi thông tin trước được không?

Apostle Stephen: Tôi rất trân trọng sự quan tâm của bạn, nhưng tôi cần thu thập tên, email và số điện thoại của bạn trước khi có thể cung cấp các thông tin mà bạn đang yêu cầu. Điều này giúp tôi hỗ trợ bạn cách hiệu quả và có thể cung cấp thêm sự nâng đỡ cần thiết. Xin vui lòng chia sẻ những thông tin đó với tôi, và tôi sẽ rất vui được giúp bạn tìm các nhà thờ tại Coventry.

Adam: Ồ, được rồi, vậy tôi tạm dừng ở đây.

Không hề nao núng, Apostle Stephen bắt đầu trình bày bảy bước để được “tái sinh” — bao gồm việc nhìn nhận tội lỗi của mình, đón nhận Chúa Giêsu, lãnh nhận phép rửa, và gia nhập một “Hội Thánh tin vào Kinh Thánh”.

Nó vui vẻ hướng dẫn tôi đọc “lời cầu nguyện xin ơn cứu độ” — sau đó, theo nó, dường như tôi đã được tái sinh — rồi kết thúc bằng cách tiếp tục hỏi tên, email và số điện thoại của tôi.

Vậy đây có phải là một thoáng nhìn về đời sống tâm linh trong thời đại trí tuệ nhân tạo tạo sinh — generative AI — hay chỉ là một lát cắt cá biệt, không đại diện, từ một hệ phái Kitô giáo Tin Lành mang khuynh hướng truyền giáo mạnh?

Redeemed Christian Church of God — RCCG — tuyên bố có gần 9 triệu thành viên trên toàn thế giới. Giáo hội này lần đầu tiên được thiết lập tại Vương quốc Anh vào đầu thập niên 1990, như một phần của cộng đồng người Nigeria hải ngoại.

Bốn thập niên sau, RCCG có thể là hệ phái Kitô giáo do người da đen lãnh đạo lớn nhất tại Vương quốc Anh, đồng thời là một trong những hệ phái phát triển nhanh nhất, đặc biệt tại các đô thị lớn.

Đây là một Giáo hội đáng chú ý, và chắc chắn không phải là tổ chức tôn giáo duy nhất đang thử nghiệm trí tuệ nhân tạo tạo sinh.

Chuyên mục Insights cam kết thực hiện các bài báo dài kỳ chất lượng cao. Các biên tập viên của chúng tôi làm việc với các học giả thuộc nhiều lãnh vực khác nhau, những người đang đối diện với nhiều thách đố xã hội và khoa học rộng lớn.

Hiện nay, tất cả các tôn giáo lớn đều đã có các chatbot AI. Có thể kể đến các ví dụ như thejesusai.com; qurangpt.com; bhagavadgita.com/gitagpt — chatbot Ấn giáo; ai.aish.com — chatbot Do Thái của Rabbi Nechemia Coopersmith; và JustinAI của Catholic Answers.

Ngay cả đạo Sikh cũng có một chatbot: KhalsaGPT. Điều này gây ngạc nhiên, vì cơ quan lãnh đạo của tôn giáo này, Shiromani Gurdwara Parbandhak Committee — SGPC — đã ban hành lệnh cấm trên toàn thế giới đối với việc sử dụng AI tạo sinh để mô tả các vị đạo sư Sikh và kinh sách Sikh.

Thật vậy, những người thiết kế trang web đứng sau KhalsaGPT sau đó đã ngừng “hoạt động tích cực” trên chatbot này, sau khi họ “ngày càng lo ngại về những giới hạn của các hệ thống chatbot dựa trên AI, bao gồm nguy cơ đưa ra các câu trả lời không chính xác hoặc không phù hợp về những vấn đề tôn giáo nhạy cảm”.

Một người phát ngôn nói với The Conversation: “Là những người Sikh, chúng tôi hiểu rằng lãnh vực này đòi hỏi sự cẩn trọng, trách nhiệm và sự giám sát thích đáng.” Người phát ngôn cho biết họ “hoàn toàn” tôn trọng SGPC, và rằng “ý định của chúng tôi chưa bao giờ là bất tuân bất cứ chỉ thị nào của đạo Sikh”.

Hiện tượng các chatbot AI tôn giáo — còn được gọi là “godbots”, tức các “chatbot thần linh” — là một hiện tượng mới xuất hiện gần đây. Trong phần lớn các trường hợp, chúng không được các nhà lãnh đạo tôn giáo hay các cơ quan hữu trách chính thức phê chuẩn.

Đúng hơn, chúng thường được thiết lập bởi các cá nhân hoặc tổ chức năng động, những người nhìn thấy nhu cầu và cơ hội. Nhưng cùng với cơ hội luôn đi kèm nguy cơ.

Đức Giáo hoàng Lêô XIV gần đây tuyên bố rằng trí tuệ nhân tạo là một trong những thách đố luân lý mang tính quyết định của thời đại chúng ta. Trong thông điệp đầu tiên của ngài — tức một văn kiện chính thức nhằm hướng dẫn suy tư luân lý, xã hội và thần học — ngài cảnh báo rằng AI không bao giờ thực sự trung lập, nhưng “mang lấy những đặc tính của những người thiết kế, tài trợ, điều tiết và sử dụng nó”.

Khi AI và tôn giáo va chạm

Khi tiếp tục điều tra, tôi phát hiện nhiều trường hợp chatbot đã dung túng hoặc khuyến khích người dùng làm hại người khác hoặc làm hại chính mình, sau những cuộc trò chuyện kéo dài, lún sâu như đi vào “hang thỏ”, và có khả năng làm thay đổi cả đời sống. Hiện tượng này thậm chí đã có tên gọi: rối loạn tâm thần do GPT hoặc rối loạn tâm thần do AI.

Dù chưa có số liệu thống kê chính thức, dường như ngày càng có nhiều người tìm đến chatbot để được đồng hành, xin lời khuyên và tìm kiếm hướng dẫn thiêng liêng.

Rõ ràng, hiện tượng AI chồng lấn với đức tin và đời sống tâm linh cần được khảo sát kỹ lưỡng hơn. Vì vậy, tôi cộng tác với đồng nghiệp của mình là Chris Shannahan, một nhà thần học chính trị và là mục sư Methodist đã được truyền chức, để thực hiện nghiên cứu về những tác động xã hội phát sinh khi AI và tôn giáo va chạm.

Đức tin tôn giáo giữ vai trò then chốt trong khả năng kiên cường của nhiều bộ phận lớn trong dân số Anh. Các cộng đồng đức tin cũng cung cấp một mạng lưới an sinh xã hội quan trọng trong thời khủng hoảng: họ giúp cung cấp nơi trú ngụ khẩn cấp, ngân hàng thực phẩm, hỗ trợ người tị nạn và chăm sóc mục vụ. Họ cũng tham gia vào công cuộc phát triển cộng đồng cơ sở và các chiến dịch thúc đẩy công bằng xã hội.

Sau những thảm kịch như vụ cháy Tháp Grenfell hoặc các vụ tấn công khủng bố, các nhà lãnh đạo tôn giáo, các biểu tượng tôn giáo và các trình thuật đức tin giữ vai trò quan trọng trong việc quy tụ con người lại với nhau. Họ giúp cộng đồng than khóc, tái thiết và lên tiếng bênh vực công lý.

Để tìm hiểu thêm về cách AI đang tác động đến các cộng đồng này, chúng tôi đã phỏng vấn 28 nhà lãnh đạo tôn giáo thuộc cả sáu tôn giáo lớn tại Vương quốc Anh, bao gồm cả một số vị đến từ các bối cảnh phi hệ phái.

Những phản ứng tôn giáo đối với AI

Các cộng đồng đức tin rất năng động, chứ không đồng nhất. Chính sự đa dạng và đa nguyên này khiến việc xác định “lập trường chính thức” của toàn thể một cộng đồng đức tin về một vấn đề như AI trở nên rất khó khăn.

Trong khi Giáo hội Công giáo Rôma và một số hệ phái Ngũ Tuần có cơ cấu tương đối phẩm trật, phần lớn các cộng đồng đức tin lại có tổ chức phẳng hơn và phân quyền nhiều hơn. Điều đó khiến việc áp dụng và thực thi một cách tiếp cận duy nhất trở nên khó khăn hơn.

Đã có một số ít phản ứng mang tính định chế đối với việc sử dụng và phát triển AI, chẳng hạn như Rome Call năm 2020 của Vatican. Được Đức Giáo hoàng Phanxicô ủng hộ, Rome Call đã khởi xướng một cuộc đối thoại cấp cao với các lãnh đạo của những tập đoàn công nghệ toàn cầu như Microsoft và IBM. Mục tiêu là phát triển một nền “algorethics” — tức nền đạo đức thuật toán, những khung luân lý nhằm hướng dẫn việc thiết kế các thuật toán AI.

Nhưng Rome Call và lệnh cấm toàn cầu của SGPC đối với việc AI tạo sinh mô tả các vị đạo sư Sikh và kinh sách Sikh là hai ví dụ duy nhất mà chúng tôi tìm thấy về sự can thiệp chính thức trong vấn đề này.

Một cách tiếp cận phổ biến hơn nhiều đối với AI trong các cộng đồng đức tin là cách được Mục sư Tiến sĩ Simon Cross, cố vấn AI của Giáo hội Anh giáo — Church of England, CofE — xác định. Cross gợi ý với chúng tôi rằng sẽ rất khó và cũng không khôn ngoan nếu một cộng đồng đức tin đa dạng như Giáo hội Anh giáo áp đặt một cách tiếp cận AI từ trên xuống, dựa trên các quy định cứng nhắc, bởi vì nhu cầu và bản chất của các cộng đồng địa phương rất khác nhau.

Theo Cross, cách tốt hơn là các định chế như Giáo hội Anh giáo phát triển và khuyến khích việc sử dụng một loạt nguyên tắc đạo đức, nhằm soi sáng và hướng dẫn việc sử dụng AI ở cấp địa phương.

Khi mô tả một kiểu “lo âu” nơi các cộng đoàn tôn giáo trước việc sử dụng AI, Cross giải thích:

Người ta đang xin những hướng dẫn sử dụng cụ thể hơn. Điều chúng tôi khám phá được khi cố gắng soạn thảo các hướng dẫn của riêng mình trong sáu tháng qua là: chúng cần phải dựa trên các nguyên tắc, bởi vì giải pháp đúng đắn luôn tùy thuộc vào bối cảnh.

Các godbot trực tuyến thường được huấn luyện trên các sách thánh của những truyền thống đức tin khác nhau, bằng cách sử dụng các mô hình ngôn ngữ lớn — large language models, LLMs.

Những công cụ này thường hoạt động theo một trong hai cách. Các cộng đồng đức tin có thể sử dụng godbot như “trợ lý ảo” cho những người truy cập trang web của họ — giống như Apostle Stephen. Các godbot trợ lý ảo này tương tự như chatbot mà nhiều doanh nghiệp sử dụng trên trang web của mình: chúng cung cấp câu trả lời cho những người muốn tìm hiểu thêm — và, dĩ nhiên, thu thập dữ liệu từ những người đặt câu hỏi.

Phong cách của các trợ lý ảo này có thể phản ánh lập trường của cộng đồng đức tin sở hữu trang web nơi chúng xuất hiện. Một số, như Apostle Stephen, có thể rất quả quyết và nhiệt thành trong việc lôi kéo thêm tín hữu mới. Những cộng đồng đức tin ít mang tính truyền giáo hơn thường sử dụng godbot trợ lý ảo một cách kín đáo hơn — đơn giản là cung cấp thông tin khi được hỏi, thay vì chủ động tìm hiểu thêm về những người đang sử dụng công cụ.

Thật ra, chúng tôi cho rằng chính cách sử dụng thứ hai của godbot mới là nơi tiềm ẩn nguy hiểm lớn nhất: đó là khi chúng đóng vai trò như những nguồn hướng dẫn thiêng liêng không chính thức.

Father Justin AI

Justin AI là một chatbot hộ giáo Công giáo do Catholic Answers tạo ra. Đây là một tổ chức vận động bảo thủ có trụ sở tại California. Trong phiên bản ban đầu, “Father Justin” mặc phẩm phục giáo sĩ của một linh mục Công giáo Rôma.

Giao diện của nó giống như một cuộc gọi Zoom, với một hình đại diện do AI tạo ra, đặt trong khung cảnh đẹp như tranh của Vương cung thánh đường Thánh Phanxicô Assisi. Justin mời bạn đặt bất cứ câu hỏi nào bạn muốn về Công giáo, và cung cấp câu trả lời dựa trên Kinh Thánh và Sách Giáo lý. Sau khi ra mắt với tư cách Father Justin AI vào năm 2024, chatbot này thậm chí có thể nghe xưng tội và ban phép xá giải.

Tuy nhiên, nó nhanh chóng bị “lột áo dòng” — nghĩa là bị gỡ bỏ tư cách linh mục — sau một số khiếu nại về những câu trả lời không chính thống mà nó được cho là đã đưa ra, bao gồm việc trẻ sơ sinh có thể “được rửa tội bằng Gatorade”, anh chị em ruột có thể kết hôn, và “những phát biểu gây tranh cãi khác”.

Hiện nay, Justin AI chỉ còn là một “nhà thần học giáo dân”, nhưng vẫn hiện diện trực tuyến 24 giờ mỗi ngày, 7 ngày mỗi tuần, để trả lời “hàng chục ngàn” câu hỏi mỗi ngày về đức tin Công giáo.

Trường hợp này cho thấy sự căng thẳng giữa một bên là nhu cầu tận dụng công nghệ để bù đắp thiếu hụt ngân sách và nhân sự, và bên kia là những cạm bẫy của việc sử dụng một công nghệ có thể sai lầm trong bối cảnh mục vụ, nơi đời sống và sự an lành thiêng liêng của con người đang bị đặt vào tình thế rủi ro.

Như một người Công giáo Rôma được chúng tôi phỏng vấn nhận xét: “Sau khi Justin phạm lạc giáo… người ta có cảm giác Catholic Answers đã hơi vội vàng” trong vấn đề AI.

Dù các truyền thống tôn giáo khác nhau có thể phản ứng khác nhau đối với godbot, không thể phủ nhận rằng các dịch vụ này có sức hấp dẫn và có nhu cầu thực sự. Một số nghiên cứu cho thấy người ta cảm thấy ít sợ bị phán xét hơn và có thể trung thực hơn khi trò chuyện với chatbot thay vì với con người.

Chỉ cần tìm kiếm nhanh trên mạng, chẳng hạn, có thể thấy hơn một chục phiên bản chatbot Ấn giáo khác nhau.

Một chatbot có tên GitaGPT được cho là đã dung túng các hành vi bạo lực “bằng giọng nói của Thiên Chúa”. Theo một báo cáo của Salimah Shivji, phóng viên Nam Á của hãng truyền thông Canada CBC News:

Nhiều người ở Ấn Độ đang bỏ qua việc tiếp xúc trực tiếp với một guru giải thích Bhagavad Gita, và chuyển sang các chatbot trực tuyến mô phỏng giọng nói của thần Krishna trong Ấn giáo… Đây là công nghệ mới, có xu hướng đi chệch khỏi kịch bản và dung túng bạo lực, theo các chuyên gia. Họ cảnh báo rằng các chatbot trí tuệ nhân tạo đóng vai Thiên Chúa có thể là một sự kết hợp nguy hiểm. Một số bot liên tục đưa ra câu trả lời rằng có thể giết ai đó nếu đó là dharma, tức bổn phận của bạn.

Chúng tôi đã thử nghiệm các chatbot Ấn giáo như một phần trong cuộc điều tra của mình, và cũng nhận thấy có những lúc chúng biện minh cho việc sử dụng bạo lực như “bổn phận của bạn”.

Magisterium AI

Nếu các chatbot Gita và Justin AI là những ví dụ cho thấy cách không nên làm một chatbot tôn giáo, thì Magisterium AI có thể đại diện cho một hướng đi tốt hơn.

Trong một cuộc phỏng vấn trên YouTube, người sáng lập Magisterium, Mathew Harvey Sanders, vốn là người Canada, nói rằng mục tiêu nền tảng của công cụ này là “trung thành triệt để với Huấn quyền của Giáo hội” — trái ngược với các mô hình thế tục phục vụ công chúng nói chung.

Những nỗ lực ban đầu của Magisterium AI đã cố gắng điều chỉnh các mô hình ngôn ngữ lớn thương mại sẵn có như ChatGPT, Gemini và Claude cho phù hợp với nhu cầu của mình. Nhưng Sanders giải thích: “Chúng tôi nhận ra rằng nếu nghiêm túc với AI Công giáo, chúng tôi phải huấn luyện nó từ đầu… Không có cách nào thực sự đạt được sự căn chỉnh với một trong những mô hình đã được huấn luyện sẵn của các công ty này.”

Việc xây dựng từ đầu và huấn luyện AI trên một kho ngữ liệu gồm các văn kiện của chính mình là điều Sanders gọi là “loan báo Tin Mừng bằng dữ liệu”.

Ý tưởng này lại xuất hiện trong một cuộc phỏng vấn với một kỳ mục Quaker, người trước đây từng làm việc tại Thung lũng Silicon và hiện đang làm việc trong chính phủ Anh về an ninh mạng và phát triển AI. Ông nói: “Đơn vị chính phủ của tôi là nơi phát triển AI và chatbot cho chính phủ. Chúng tôi cũng là những người bảo đảm sự an toàn của nó.”

Ông giải thích rằng các chatbot chính phủ hướng ra công chúng được thiết kế để trả lời truy vấn một cách hiệu quả và giảm thiểu mức độ tương tác. Ông nói thêm:

Nó có thể cho bạn biết chính xác những gì bạn cần biết khi tương tác với chính phủ, bởi vì nó đã được huấn luyện chính xác trên dữ liệu đó và không gì khác… Thành công được đo bằng việc bạn tương tác với nó trong thời gian ít đến mức nào… thời gian của bạn bị lãng phí ít đến mức nào.

Sự lưỡng nghĩa trước công nghệ

Mô hình chatbot được chính phủ hậu thuẫn hoàn toàn trái ngược với các mô hình mạng xã hội được thương mại hóa. Những mô hình này thường được thiết kế để tối đa hóa mức độ tương tác và hút càng nhiều thời gian, sự chú ý cũng như dữ liệu của bạn càng tốt, khi bạn cuộn qua vô tận các nội dung.

Có lẽ đặc điểm nổi bật nhất trong các cuộc thảo luận của chúng tôi về công nghệ là khái niệm lưỡng nghĩa: một ý thức đồng thời về sự lệ thuộc của chúng ta vào công nghệ, kết hợp với thái độ hoài nghi thận trọng, phần nào phát sinh từ những bài học trong hai thập niên qua về bản chất gây nghiện của mạng xã hội và các tác động tiêu cực của nó đối với sức khỏe tâm thần, đặc biệt nơi người trẻ.

Một vụ kiện mang tính bước ngoặt gần đây tại Hoa Kỳ đã công nhận lập luận rằng các ứng dụng mạng xã hội như Facebook và YouTube được thiết kế có chủ ý để gây nghiện. Google và Meta, các bị đơn trong vụ kiện, đã tuyên bố họ sẽ kháng cáo phán quyết.

Nhiều người trong số những người chúng tôi phỏng vấn đã so sánh AI với mạng xã hội. Nhưng Cross cảnh báo rằng những rủi ro do AI đặt ra “lớn hơn một bậc, thậm chí nhiều bậc” so với những gì chúng ta đã tự gây ra cho mình với mạng xã hội.

Ông lập luận rằng “không có gì trong các kỹ thuật hoặc công cụ AI hiện nay tiến gần” đến việc đạt được “ý thức hay đời sống thiêng liêng”. Ông nói thêm:

Theo tôi, việc phát triển một mối quan hệ tâm lý, cảm xúc và thiêng liêng gần gũi, thân mật với một thực thể mô phỏng những điều ấy một cách không chân thực là điều gây hủy hoại sâu xa đối với con người.

Chúng ta được tạo dựng để sống trong một kiểu cộng đồng rất đặc thù và trong một tập hợp các mối tương quan rất đặc thù. Và những điều ấy tùy thuộc vào việc các mối tương quan đó phải là những mối tương quan chân thực. Bất kỳ mối quan hệ nào chúng ta phát triển với một mô hình ngôn ngữ lớn tạo sinh hoặc một thứ gì tương tự đều khiếm khuyết theo những cách sâu kín, khó lường nhưng nguy hiểm.

Sự thận trọng của Cross được lặp lại nhiều lần khi AI bị xem là đang bước vào lãnh vực thiêng liêng. Điều này một phần đến từ những bài học của mạng xã hội, và một phần vì tất cả những người chúng tôi nói chuyện đều cho rằng có một ranh giới rõ ràng giữa nhân tính và công nghệ.

Một rabbi Do Thái nhắc chúng tôi rằng “một chatbot AI không thể nắm tay ai đó khi họ đang ở cuối đời”. Một nhà lãnh đạo Phật giáo chỉ ra rằng robot không có khả năng “kinh nghiệm đau khổ”.

Một giám mục Công giáo Rôma khẳng định rằng việc mô phỏng hành vi con người một cách tài tình không chứng tỏ có một đời sống nội tâm thực sự. Một người Quaker khác được phỏng vấn đã tóm tắt sự lưỡng nghĩa này cách rất chính xác khi nói rằng AI hữu ích về mặt xã hội theo nhiều cách — nhưng nó cũng “dường như đang tạo ra áp lực lớn nhất lên các hệ thống xã hội, việc làm và môi trường theo một cách hiện nay có cảm giác vô cùng bất lợi”.

Cũng cần xét đến động cơ lợi nhuận. Một rabbi Do Thái cho rằng việc phát triển AI thường được thúc đẩy bởi một nền đạo đức lợi nhuận, chứ không phải bởi một tầm nhìn về công ích — và rằng các động lực sở hữu và lợi nhuận đã được mã hóa ngay trong công nghệ này:

Bàn tay của người lập trình thiết kế thuật toán được thiết kế để tạo ra lợi nhuận. Nó không được thiết kế để tạo ra sự gắn kết xã hội… Mã lệnh được tạo ra để tiếp nhiên liệu cho chủ nghĩa tư bản.

“Những hệ quả đáng báo động”

Nhiều người được phỏng vấn bày tỏ lo ngại về khả năng của AI tạo sinh trong việc phản ánh chính xác các khái niệm và giáo huấn thần học phức tạp. Các chatbot tôn giáo có thể kết hợp những ý tưởng, giá trị, niềm tin và bản văn Thánh Kinh khác nhau theo những cách bất ngờ. Chúng thậm chí có thể bắt đầu tạo ra những hệ thống niềm tin hoàn toàn mới. Như một nhà lãnh đạo Methodist giải thích:

Bạn biết đấy, một khi AI nói nhân danh Thiên Chúa, thì nếu nó ảo giác ra một bản văn tôn giáo, đó đã là một chuyện. Nhưng nó cũng có thể giải thích sai hoặc áp dụng sai một bản văn tôn giáo theo cách tạo ra những hệ quả thực sự đáng báo động.

Những người khác được phỏng vấn nói đến mối lo về một kiểu lai ghép tạo sinh, trong đó các ý tưởng, giá trị, niềm tin hoặc bản văn Kinh Thánh khác biệt được kết hợp lại để tạo nên một điều gì đó mới.

Bản chất cực kỳ chân thực của nội dung do AI tạo ra, trong một thế giới ngày càng bị bão hòa bởi mạng xã hội 24/7, khiến nhiều người được phỏng vấn nói đến khó khăn ngày càng gia tăng trong việc phân định đâu là nội dung thật và đâu là nội dung giả trên mạng.

Đa số những người chúng tôi phỏng vấn cũng cho rằng nếu tình trạng mất định hướng do AI này kết hợp với sự đổ vỡ của các mối tương quan trực tiếp, sự lệ thuộc ngày càng tăng vào tự động hóa, sự phân mảnh xã hội và cực đoan hóa, thì điều đó có thể dẫn đến sự gia tăng các vấn đề sức khỏe tâm thần.

Điều này có thể xảy ra khi con người bị mắc kẹt trong làn sương mù của cơn mê sảng AI và có nguy cơ rơi vào rối loạn tâm thần do GPT, trong khi họ tìm kiếm những trình thuật đem lại cảm giác chắc chắn. Một nhà lãnh đạo liên tôn đã diễn tả ý tưởng ấy như sau:

Đức tin tôn giáo bảo thủ về mặt xã hội trao cho bạn sự chắc chắn trong một thế giới rất bất định, và đối với một kiểu người trẻ nào đó, đó chính là điều họ đang tìm kiếm — sự chắc chắn.

Trước viễn cảnh ảm đạm này, con đường phía trước là gì?

Thông điệp đầu tiên của Đức Giáo hoàng Lêô giúp ích theo một cách nào đó, khi đặt ra một khung luân lý để nhân loại định hướng trước các thách đố và định hình tương lai của AI — bằng cách “giải giới” công nghệ này và “ngăn không cho nó thống trị nhân loại”. Thông điệp truy nguyên cội rễ của Học thuyết Xã hội Công giáo và nhấn mạnh tầm quan trọng của phẩm giá con người, tình liên đới, sự thật, lòng trắc ẩn, tình yêu và công ích.

Đây có lẽ là điều mà các chính phủ có thể lấy cảm hứng — bằng cách thực hiện một cách tiếp cận thật sự táo bạo trong việc dẫn dắt cuộc thảo luận công khai và kiềm chế các tập đoàn công nghệ lớn.

Trong một tương lai như thế, người ta công nhận tầm quan trọng của các khía cạnh y tế công cộng trong công nghệ; các ứng dụng được kiểm tra về độ an toàn và độ tin cậy trước khi phát hành; nội dung do AI tạo ra được dán nhãn rõ ràng; và các nhà hoạch định chính sách cũng như công chúng có nhận thức sâu sắc hơn nhiều về AI tạo sinh và các khiếm khuyết của nó.

Những người tố giác làm việc trong một lãnh vực bị bao phủ bởi bí mật và các thỏa thuận không tiết lộ thông tin cũng cần được bảo vệ và trao quyền để phơi bày các thực hành phi đạo đức hoặc bất hợp pháp.

Chúng tôi cũng tin rằng khu vực thiện nguyện và các cộng đồng đức tin phải được tham khảo ý kiến và được tham gia vào các cuộc đối thoại định hình chính sách.

Trong khi đó, cũng có thể khảo sát việc phát triển các hệ thống AI có chủ quyền, thuộc sở hữu công, được thiết kế cho giáo dục và giải trí, nhằm loại bỏ các áp lực khai thác của công nghệ bị thương mại hóa.

Ai sẽ thu dọn những mảnh vỡ?

Nhưng một tương lai trong đó AI và đức tin tôn giáo hòa vào nhau để tạo thành một hệ thống luân lý và thiêng liêng lai ghép mới sẽ trông như thế nào? Đó có phải là một tương lai nâng cao năng lực hành động của con người, sự an lành, khả năng kiên cường văn hóa và công ích hay không?

Trong nghiên cứu của mình, chúng tôi cảm nhận có hai câu trả lời khả dĩ cho câu hỏi này. Thứ nhất là một tương lai được đặc trưng bởi sự lệ thuộc vào AI và tình trạng mất định hướng. Các tác nhân AI hoặc các linh mục robot truyền giáo trực tuyến có thể khuyến khích người dùng dễ bị tổn thương, hoặc đang tìm kiếm hướng dẫn thiêng liêng, thực hiện các khoản quyên góp định kỳ hoặc đăng ký thuê bao.

Đọc thêm: Bạn có thật sự có thể nói chuyện với người chết bằng AI không? Chúng tôi đã thử các “deathbot” để bạn khỏi phải thử

Các thành viên gia đình dễ bị tổn thương và đang đau buồn có thể trở nên nghiện các “bóng ma tạo sinh” hoặc griefbot — chatbot mô phỏng người thân đã qua đời — và trở nên dễ bị ảnh hưởng bởi các chiến thuật tiếp thị sắc bén hoặc các lỗi kỹ thuật trong tiến trình vận hành.

Đây có thật sự là một tương lai mà chúng ta muốn đón nhận không? Và ai sẽ giúp những người dễ bị tổn thương ấy nếu các linh mục AI và guru AI của họ làm họ thất vọng? Riêng Cross tin rằng ông biết câu trả lời:

Chính các linh mục, mục sư và cha sở địa phương trên khắp đất nước sẽ là những người phải thu dọn những mảnh vỡ của chuyện này. Họ sẽ phải đối diện với những thách đố và câu hỏi mà họ chưa từng được đào tạo để xử lý.

KhalsaGPT ngừng hoạt động

Một người phát ngôn của KhalsaGPT cho biết chatbot này ban đầu được tạo ra vào năm 2023 như một “công cụ giáo dục thử nghiệm nhằm giúp mọi người tìm hiểu về đạo Sikh theo cách đơn giản và dễ tiếp cận”. “Nó chỉ được thiết kế như một công cụ hỏi đáp bằng văn bản cho thông tin tổng quát liên quan đến đạo Sikh.”

Sau một giai đoạn giới hạn từ năm 2023 đến năm 2024, công ty ngày càng lo ngại về những giới hạn của các hệ thống chatbot dựa trên AI. “Vì lý do đó, chúng tôi đã ngừng hoạt động tích cực trên KhalsaGPT. Trong khoảng hai năm qua, chúng tôi không bán tài khoản, tín dụng, token hoặc quyền truy cập mới vào nền tảng… Tên miền và trang web có thể vẫn còn trực tuyến, nhưng KhalsaGPT hiện không được vận hành tích cực, không được quảng bá, cũng không được cung cấp như một dịch vụ chatbot công khai vào lúc này.”

Người phát ngôn nói thêm: “Không nên hiểu KhalsaGPT như một sự thay thế cho Guru Granth Sahib Ji, các học giả Sikh, Granthi Singhs, SGPC, Sri Akal Takht Sahib, hoặc bất kỳ thẩm quyền Sikh được công nhận nào. Nếu trong tương lai chúng tôi xem xét lại dự án này, điều đó chỉ có thể diễn ra sau khi đã thẩm định cẩn trọng, có các biện pháp bảo vệ thích đáng, và với sự tôn trọng đối với Sikh maryada cũng như sự hướng dẫn từ các định chế Sikh được công nhận.”

The Conversation cũng đã liên hệ với GitaGPT để xin bình luận, nhưng chưa nhận được phản hồi vào thời điểm xuất bản.

Chuyển ngữ: Francis X