Hệ thống an toàn của Microsoft có thể phát hiện ảo giác trong các ứng dụng AI của mình

Chúng tôi là công ty Công nghệ Terus, Công ty thiết kế website uy tín tại Hồ Chí Minh và cung cấp các dịch vụ liên quan đến digital. Terus đem tới các dịch vụ: Thiết kế website, dịch vụ quảng cáo Facebook Ads, dịch vụ chạy quảng cáo Google Ads, dịch vụ SEO tổng thể,...

Giám đốc sản phẩm AI có trách nhiệm của Microsoft, Sarah Bird , tiết lộ với The Verge trong một cuộc phỏng vấn về việc triển khai các tính năng an toàn mới do nhóm của cô thiết kế cho khách hàng Azure. Các tính năng này, được hỗ trợ bởi công nghệ LLM, nhằm mục đích phát hiện lỗ hổng, giám sát các tình huống hợp lý nhưng không được hỗ trợ và chặn các lời nhắc độc hại theo thời gian thực cho người dùng tận dụng các mô hình AI của Azure .

Có nhiều chức năng cải thiện sự an toàn Các chức năng bao gồm Prompt Shields, Groundedness Detection và đánh giá an toàn, với các tính năng bổ sung như hướng mô hình đến đầu ra an toàn và theo dõi lời nhắc cho người dùng có vấn đề sắp tới. Đáng chú ý, hệ thống đánh giá lời nhắc nhập cho các từ bị cấm và tín hiệu ẩn trước khi xử lý, đảm bảo phản hồi phù hợp với kết quả mong muốn.

Nó có thể lọc lời nói thù địch hoặc bạo lực trong các mô hình AI Bird nhấn mạnh khả năng kiểm soát tùy chỉnh đối với việc lọc lời nói thù địch hoặc bạo lực trong các mô hình AI, giải quyết các mối lo ngại về nội dung không phù hợp. Các biện pháp an toàn này mở rộng sang các mô hình phổ biến như GPT-4 và Llama 2 , mặc dù người dùng các mô hình nguồn mở nhỏ hơn, ít được sử dụng hơn có thể cần phải cấu hình thủ công các tính năng.

Cam kết của Microsoft trong việc tăng cường tính an toàn của AI phù hợp với nhu cầu ngày càng tăng về khả năng AI của Azure, được nhấn mạnh bởi các quan hệ đối tác gần đây nhằm mở rộng các mô hình cung cấp của công ty.

Các dịch vụ tại Terus Technology:

Thiết kế website

Thiết kế website bán hàng

Dịch vụ SEO website

Dịch vụ chạy quảng cáo Facebook Ads

Dịch vụ chạy quảng cáo Google Ads