Для решения данной задачи необходимо воспользоваться формулой условной вероятности и комбинаторики.
а) Вероятность, что среди оставшихся монет будет ровно 2 двухрублевые:
Всего в кармане 8 монет, из них 3 двухрублевые и 5 пятирублевых. Сергей вынимает 3 монеты, следовательно, остается 5 монет.
Нам нужно, чтобы среди этих 5 монет было 2 двухрублевые. Это означает, что среди 3 вынутых монет должна быть 1 двухрублевая.
Количество способов выбрать 1 двухрублевую монету из 3: $$C_3^1 = \frac{3!}{1!(3-1)!} = \frac{3!}{1!2!} = \frac{3 \cdot 2 \cdot 1}{1 \cdot 2 \cdot 1} = 3$$
Количество способов выбрать 2 пятирублевые монеты из 5: $$C_5^2 = \frac{5!}{2!(5-2)!} = \frac{5!}{2!3!} = \frac{5 \cdot 4 \cdot 3 \cdot 2 \cdot 1}{2 \cdot 1 \cdot 3 \cdot 2 \cdot 1} = 10$$
Тогда количество способов выбрать 3 монеты так, чтобы среди них была 1 двухрублевая и 2 пятирублевые: $$3 \cdot 10 = 30$$
Общее количество способов выбрать 3 монеты из 8: $$C_8^3 = \frac{8!}{3!(8-3)!} = \frac{8!}{3!5!} = \frac{8 \cdot 7 \cdot 6 \cdot 5!}{3 \cdot 2 \cdot 1 \cdot 5!} = \frac{8 \cdot 7 \cdot 6}{3 \cdot 2 \cdot 1} = 56$$
Вероятность, что среди вынутых монет будет 1 двухрублевая: $$\frac{30}{56} = \frac{15}{28}$$
Оставшиеся монеты: 2 двухрублевые и 3 пятирублевые.
Количество способов выбрать 2 двухрублевые из 2: $$C_2^2 = 1$$
Количество способов выбрать 3 пятирублевые из 3: $$C_3^3 = 1$$
Вероятность того, что среди оставшихся монет будет ровно 2 двухрублевые монеты: $$\frac{1 \cdot 1}{C_5^2} = \frac{1}{10}$$ где $$C_5^2$$ - количество способов выбрать 2 места для двухрублевых монет из 5 возможных.
Итоговая вероятность: $$\frac{15}{28} \cdot \frac{1}{10} = \frac{15}{280} = \frac{3}{56}$$
б) Вероятность, что среди оставшихся монет не будет ни одной двухрублевой:
Это означает, что все 3 вынутые монеты должны быть двухрублевыми. Количество способов выбрать 3 двухрублевые монеты из 3: $$C_3^3 = 1$$
Вероятность, что среди вынутых монет будет 3 двухрублевые: $$\frac{1}{56}$$
Тогда в оставшихся монетах будет 5 пятирублевых.
Количество способов выбрать 0 двухрублевых из 5 оставшихся мест: 1 способ.
Вероятность: $$\frac{1}{56} \cdot 1 = \frac{1}{56}$$
Ответ: а) 3/56; б) 1/56