Xét đa giác lồi 20 đỉnh:
- Số tam giác có các đỉnh là đỉnh của đa giác này là C203=1140 tam giác.
- Các tam giác có đỉnh là đỉnh của đa giác và có đúng 1 cạnh là cạnh của đa giác sẽ có đúng 2 đỉnh là 2 đỉnh kề nhau của đa giác. Do đó, có 20.(20−4)=320 tam giác loại này.
- Các tam giác có đỉnh là đỉnh của đa giác và có đúng 2 cạnh là cạnh của đa giác sẽ có 3 đỉnh là 3 đỉnh liên tiếp của đa giác. Do đó, có 20 tam giác loại này.
Vậy số tam giác thỏa mãn yêu cầu đề bài là 1140−320−20=800 tam giác.