Nên viết lại là : 
She competed in a challenging contest
Cô ấy đã tham gia một cuộc thi thử thách
Nếu em muốn hỏi về dùng challenging hay challenged thì ở câu này thì chọn challenging nhé, Vì tính từ đuôi-ing sẽ chỉ tính chất của 1 sự vật, còn tính từ đuôi-ed sẽ thường chỉ cảm xúc với một sự vật nào đó