Если вы хотите найти ли точку в любой фигуре, вам достаточно взять любое направление и подсчитать количество пересечений с границами этой фигуры. Если чётное — значит точка лежит вне фигуры, если нечётное — внутри.