a) Để rút gọn M, ta nhân tử và mẫu của phân số M với a^2+1 để loại bỏ các mẫu số phức tạp:
M = (1+ a/a^2+1) * (a^2+1) / (1/1-a-2a/a^3-a^2+a-1) = (a^2+1+a) / (1-a-2a/a^3-a^2+a-1)
= (a^2+a+1) / (1-a-2a/a^3-a^2+a-1)

Tiếp theo, ta thấy rằng (1-a-2a/a^3-a^2+a-1) = -(a^3-a^2-2a)/(a^3-a^2+a-1), nên ta có thể rút gọn phân số:
M = (a^2+a+1) / (-(a^3-a^2-2a)/(a^3-a^2+a-1))
= (a^2+a+1) * (a^3-a^2+a-1) / (-(a^3-a^2-2a))
= -(a^2+a+1) * (a^3-a^2+a-1) / (a^3-a^2-2a)

Tiếp theo, ta có điều kiện |2a-1|=1. Điều này có nghĩa là 2a-1 = 1 hoặc 2a-1 = -1.
- Nếu 2a-1 = 1, ta có a = 1.
- Nếu 2a-1 = -1, ta có a = 0.

Với a = 1, ta có:
M = -(1^2+1+1) * (1^3-1^2+1-1) / (1^3-1^2-2*1)
= -3 * 0 / -1
= 0

Với a = 0, ta có:
M = -(0^2+0+1) * (0^3-0^2+0-1) / (0^3-0^2-2*0)
= -1 * (-1) / 0
= 1/0 (phân số không xác định)

Vậy, khi |2a-1|=1, ta có M = 0 hoặc M không xác định.

b) Để M thuộc Z, tức là M là một số nguyên, ta cần điều kiện (a^2+a+1) * (a^3-a^2+a-1) chia hết cho (a^3-a^2-2a).

Ta có thể sử dụng định lý Euclid để kiểm tra điều kiện này. Định lý Euclid nói rằng nếu một đa thức f(x) chia hết cho một đa thức g(x), thì f(a) chia hết cho g(a).

Áp dụng định lý Euclid vào bài toán này, ta có:
(a^2+a+1) * (a^3-a^2+a-1) chia hết cho (a^3-a^2-2a) nếu và chỉ nếu (a^2+a+1) * (a^3-a^2+a-1) chia hết cho (a^3-a^2-2a) khi a = a^3-a^2-2a.

Giải phương trình a = a^3-a^2-2a, ta có:
a^3-4a^2+3a = 0
a(a-1)(a-3) = 0

Vậy, a thuộc Z khi a = 0, a = 1 hoặc a = 3.