Logo id.boatexistence.com

Bagaimana transparansi dan kemampuan menjelaskan berbeda?

Daftar Isi:

Bagaimana transparansi dan kemampuan menjelaskan berbeda?
Bagaimana transparansi dan kemampuan menjelaskan berbeda?

Video: Bagaimana transparansi dan kemampuan menjelaskan berbeda?

Video: Bagaimana transparansi dan kemampuan menjelaskan berbeda?
Video: Transparansi dan Komunikasi Kebijakan (Part 1) 2024, Mungkin
Anonim

Transparency memecahkan masalah ini dengan menggunakan model yang mudah diinterpretasikan, beberapa di antaranya akan kita bahas di bagian berikutnya. Penjelasan memecahkan masalah ini dengan “membongkar Kotak Hitam”, atau mencoba mendapatkan wawasan dari model pembelajaran mesin, seringkali dengan menggunakan metode statistik.

Apa itu Penjelasan model?

Keterjelasan Model adalah konsep luas dalam menganalisis dan memahami hasil yang diberikan oleh model ML. Hal ini paling sering digunakan dalam konteks model "kotak hitam", yang sulit untuk ditunjukkan, bagaimana model tersebut sampai pada keputusan tertentu.

Apa itu Penjelasan dalam pembelajaran mendalam?

Explainability (juga disebut sebagai "interpretability") adalah konsep bahwa model pembelajaran mesin dan outputnya dapat dijelaskan dengan cara yang "masuk akal" kepada manusia pada tingkat yang dapat diterima … Lainnya, seperti sistem pembelajaran yang mendalam, meskipun lebih berkinerja, tetap jauh lebih sulit untuk dijelaskan.

Apa yang dimaksud dengan Penjelasan dalam konteks sistem AI?

Andrew Maturo, analis data, SPR. “AI yang dapat dijelaskan secara sederhana berarti AI yang transparan dalam operasinya sehingga pengguna manusia akan dapat memahami dan mempercayai keputusan Organisasi harus mengajukan pertanyaan – dapatkah Anda menjelaskan bagaimana AI Anda menghasilkannya? wawasan atau keputusan tertentu?” –

Apa itu masalah Penjelasan?

Orang-orang memiliki keengganan yang jelas terhadap keputusan kotak hitam yang memengaruhi mereka secara finansial, kesehatan, dan lusinan cara lain sementara pada saat yang sama tidak menyadari jenis keputusan tertentu yang berbeda. … Ketika AI membuat keputusan ini, permintaan akan penjelasan dapat didengar.

Direkomendasikan: