PT : $2x^2-2Mx+M-1=0$
Điều kiện có 2 nghiệm phân biệt : Delta lớn hơn 0 em tự tính giúp anh nhé

Áp dụng Vi-ét :

$\left\{\begin{array}{l}S=x_1+x_2=\frac{-b}{a}=\frac{2M}{2}=M\\ P=x_1.x_2=\frac{c}{a}=\frac{M-1}{2}\end{array}\right.$
(Cái P anh viết ra luôn cho nó đầy đủ theo hệ thức Vi -ét thôi, chứ xuống dưới mình chả phải dùng nó đâu)

$S=x_1+x_2=M=>x_2=M-x_1$

Theo đề bài, ta có :

$$\begin{gathered} 3x_1+5x_2=\frac{17M}{3} \\ <=>3x_1+5(M-x_1)=\frac{17M}{3} \\ => M=-3x_1 \end{gathered}$$
Cầm $M=-3x_1$ quăng ngược lại vào phương trình cũ, ta được :

$2{(x}^{}$₁)2-2(-3x1)(x1)+(-3x1)-1=0 (1)

(Vì mình đang lập PT theo $x_1$ nên những chỗ nào là x mình đều thay bằng  $x_1$ hết em nhé, nếu em lập theo $x_2$ thì cũng thay tương tự)

$\left(1\right)<=>8{(x}^{}$₁)2-3x1-1=0         =>x1=3±4116

(Em ốp điều kiện có nghiệm vô, nhận loại giúp anh nha)

Sau đó ta lại có : $M=-3x_1$ ở trên, em thay $x_1$ vào là ra được M. 

Số khá xấu, không biết anh có tính sai ở chỗ nào không. 

Nếu có gì sai sót thì em thông cảm, nhưng ý tưởng chính của bài là như vậy.

Cảm ơn em đã đọc.