мде...)) возьми, разбей этот многоугольник на треугольники. вычисли площадь треугольников, я так понял они разные получатся, и сложи их. вот и получишь площадь своего многоугольника.
Площадь треугольника если не ошибаюсь 1/2 произведения основания на высоту. За это ручаться 100% не могу, но вроде бы так. Высоту найдешь из теоремы пифагора: квадрат гипотенузы = сумме квадратов катетов.
если че не так поправьте