Lời nhắc tiêu cực hoặc lời nhắc tiêu cực là gì? Lời nhắc tiêu cực trong Trí tuệ nhân tạo (AI) là một hướng dẫn bằng văn bản do người dùng cung cấp cho phần mềm, ứng dụng hoặc trình tạo hình ảnh để tránh sử dụng một số đặc điểm nhất định trong quá trình tạo nội dung nhằm không tạo ra kết quả không mong muốn hoặc nằm ngoài ngữ cảnh mong muốn.

Những lời nhắc tiêu cực này được sử dụng để dạy AI những điều không nên làm hoặc không nên nói để đảm bảo nó tạo ra kết quả chính xác và phù hợp hơn. Một ví dụ về cách sử dụng dấu nhắc phủ định trong tạo ảnh là khi chúng ta muốn tạo ảnh của một đối tượng nhất định nhưng lại muốn loại trừ một số đặc điểm cụ thể của đối tượng đó.

Ví dụ: nếu chúng ta muốn tạo hình ảnh ô tô, nhưng chúng tôi muốn ngăn mô hình AI tạo ô tô có màu cụ thể như xanh lá cây hoặc tím. Trong trường hợp này, chúng tôi có thể sử dụng lời nhắc tiêu cực để hướng dẫn mô hình AI không bao gồm các màu này trong hình ảnh được tạo.

Để tạo các lời nhắc tiêu cực này, chúng tôi có thể đào tạo mô hình AI với một tập hợp các hình ảnh từ ô tô và gắn nhãn chúng bằng các màu mà chúng tôi không muốn đưa vào. Điều này giúp mô hình hiểu rằng những màu này không được mong muốn trong hình ảnh được tạo.

Một ví dụ khác là trong chụp ảnh khuôn mặt, nơi chúng tôi có thể sử dụng lời nhắc tiêu cực để hướng dẫn mô hình AI tránh tạo ra các đặc điểm không mong muốn, nhưvết sẹo hoặc vết bớt.

Để làm điều này, chúng tôi có thể cung cấp cho mô hình hình ảnh mẫu của những khuôn mặt có những đặc điểm này và gắn nhãn chúng là “không mong muốn”. Mô hình AI sẽ học cách tránh tạo ra các tính năng này trong hình ảnh được tạo.

Trình tạo ảnh Lexica có một hộp thoại cụ thể để nhập lời nhắc phủ định

Có thể sử dụng lời nhắc phủ định trong nhiều ứng dụng AI khác nhau như phân loại hình ảnh, dịch ngôn ngữ và phân tích tình cảm. Trong nhiều trường hợp, chúng giúp tránh các kết quả không liên quan hoặc có thể bị coi là xúc phạm hoặc không phù hợp. Ví dụ: nếu đang tạo mẫu chatbot cho một công ty bán các sản phẩm thuần chay, thì chúng ta có thể sử dụng lời nhắc tiêu cực để ngăn bot đề xuất các sản phẩm có thành phần động vật.

Một ví dụ khác là trong bản dịch ngôn ngữ. Giả sử chúng ta đang đào tạo một mô hình AI để dịch văn bản từ tiếng Anh sang tiếng Bồ Đào Nha, nhưng chúng ta muốn ngăn mô hình dịch các thuật ngữ thô tục hoặc từ xấu.

Trong trường hợp này, chúng ta có thể đưa ra lời nhắc tiêu cực để hướng dẫn mô hình không dịch dịch những từ này và thay vào đó đưa ra một bản dịch thích hợp hoặc đơn giản là bỏ qua từ đó. Những lời nhắc tiêu cực này giúp đảm bảo rằng bản dịch chính xác và phù hợp với đối tượng dự định.

Cách sử dụng lời nhắc tiêu cực trongAI?

Để sử dụng lời nhắc tiêu cực trong AI, bạn cần xác định kết quả mà bạn nên tránh và tạo danh sách các từ hoặc cụm từ có thể dẫn đến những kết quả đó. Sau đó, những lời nhắc tiêu cực này có thể được thêm vào mô hình hoặc thuật toán AI để ngăn hệ thống tạo ra kết quả không mong muốn.

Một ví dụ khác về việc sử dụng lời nhắc tiêu cực trong AI là phân loại hình ảnh. Giả sử chúng ta có một AI được đào tạo để nhận dạng động vật trong hình ảnh, nhưng chúng ta muốn ngăn AI phân loại thú cưng là động vật hoang dã.

Trong trường hợp này, chúng ta có thể tạo lời nhắc tiêu cực hướng dẫn mô hình không nhận dạng động vật là “ chó” hoặc “mèo” như động vật hoang dã, mặc dù chúng có thể có những đặc điểm tương tự với các loài động vật hoang dã khác như sư tử hoặc hổ.

Để tạo những gợi ý tiêu cực này, chúng ta có thể cung cấp cho mô hình ví dụ về hình ảnh và nhãn vật nuôi chúng. chúng với lớp “không phải động vật hoang dã”. Những hình ảnh này giúp mô hình hiểu rằng những động vật này không nên được phân loại là động vật hoang dã.

Điều quan trọng cần nhớ là hiệu quả của lời nhắc tiêu cực phụ thuộc vào chất lượng của dữ liệu huấn luyện và độ chính xác của AI . mô hình nói chung. Do đó, điều cần thiết là phải liên tục theo dõi hiệu suất của mô hình và điều chỉnh các lời nhắc tiêu cực nếu cần.

Tại sao nên sử dụnglời nhắc tiêu cực?

Lời nhắc tiêu cực là một công cụ quan trọng để đảm bảo tính chính xác và mức độ phù hợp của kết quả trong các ứng dụng AI. Chúng cho phép đào tạo hệ thống để tránh các kết quả không mong muốn, cải thiện chất lượng tổng thể của các kết quả được tạo ra.

Tuy nhiên, điều quan trọng cần nhớ là việc triển khai chính xác các lời nhắc tiêu cực đòi hỏi phải có kiến ​​thức kỹ thuật và kỹ năng về khoa học dữ liệu. Do đó, nếu bạn đang cân nhắc sử dụng lời nhắc tiêu cực trong các dự án AI của mình, bạn nên tham khảo ý kiến ​​của các chuyên gia AI để được hướng dẫn phù hợp.