Phương pháp giải:

- Xác định góc \(\alpha \): Góc giữa hai mặt phẳng bằng góc giữa hai đường thẳng nằm trong hai mặt phẳng và cùng vuông góc với giao tuyến.

- Tính \(\cos \alpha \) bằng cách sử dụng định lý cô sin trong tam giác: \(\cos A = \dfrac{{{b^2} + {c^2} - {a^2}}}{{2bc}}\).

Lời giải chi tiết:

Xét các tam giác ACB, ADB lần lượt cân tại C và D nên \(CM \bot AB,DM \bot AB\)

Ta có : \(\left\{ \begin{array}{l}\left( {ABC} \right) \cap \left( {ABD} \right) = AB\\CM \bot AB,CM \subset \left( {ABC} \right)\\DM \bot AB,DM \subset \left( {ABD} \right)\end{array} \right.\)\( \Rightarrow \angle \left( {\left( {ABC} \right);\left( {ABD} \right)} \right) = \angle \left( {CM;DM} \right)\).

Tam giác ACM vuông tại M nên theo Pitago ta có :

\(\begin{array}{l}C{M^2} = A{C^2} - A{M^2}\\ \Rightarrow CM = \sqrt {A{C^2} - A{M^2}}  = \sqrt {{{\left( {\dfrac{{a\sqrt 3 }}{2}} \right)}^2} - {{\left( {\dfrac{a}{2}} \right)}^2}}  = \dfrac{{a\sqrt 2 }}{2}\end{array}\)

Tương tự \(DM = \dfrac{{a\sqrt 2 }}{2}\).

Gọi K là hình chiếu của I lên AD ta có :

Mặt cầu đường kính MN tiếp xúc với AD nên \(IK = IM = IN,IK \bot AD\).

Xét tam giác AMI và AKI có :

\(\begin{array}{l}\widehat {AMI} = \widehat {AKI} = {90^0};\\AI\,chung;\\IM = IK\left( {cmt} \right);\end{array}\)

Do đó \(\Delta AMI = \Delta AKI\) (cạnh huyền – cạnh góc vuông) \( \Rightarrow AK = AM = \dfrac{a}{2}\) (cạnh tương ứng).

Tương tự : \(\Delta DNI = \Delta DKI\)  (cạnh huyền – cạnh  góc vuông)

\(\begin{array}{l} \Rightarrow DN = DK = AD - AK = \dfrac{{a\sqrt 3 }}{2} - \dfrac{a}{2} = \dfrac{{a\left( {\sqrt 3  - 1} \right)}}{2}\\ \Rightarrow DC = 2DN = 2.\dfrac{{a\left( {\sqrt 3  - 1} \right)}}{2} = a\left( {\sqrt 3  - 1} \right)\end{array}\)

Ap dụng định lý cô sin trong tam giác MCD có :

\(\begin{array}{l}\cos \widehat {CMD} = \dfrac{{M{C^2} + M{D^2} - C{D^2}}}{{2MC.MD}}\\\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\, = \dfrac{{{{\left( {\dfrac{{a\sqrt 2 }}{2}} \right)}^2} + {{\left( {\dfrac{{a\sqrt 2 }}{2}} \right)}^2} - {{\left( {a\left( {\sqrt 3  - 1} \right)} \right)}^2}}}{{2.\dfrac{{a\sqrt 2 }}{2}.\dfrac{{a\sqrt 2 }}{2}}}\\\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\, = 2\sqrt 3  - 3 > 0\\ \Rightarrow \cos \alpha  = \cos \widehat {CMD} = 2\sqrt 3  - 3\end{array}\) 

Chọn B.