Для такой обрезки используйте Clip, то есть обтравочный контур. Нарисуйте круг поверх фотографии, расположив его точно над нужной областью. Выберите одновременно круг и изображение, затем выполните Object → Clip → Set. Видимой останется часть фотографии внутри верхней фигуры.
Это ограничение видимости: скрытые пиксели не вырезаются из исходной фотографии. Если понадобилось другое кадрирование, снимите обтравку командой Object → Clip → Release, поправьте круг и назначьте её снова.
Цвет самого круга для обычного Clip не задаёт цвет фотографии или её прозрачность. Здесь работает форма контура. Для прямоугольного кадра вместо круга используйте прямоугольник. Вывод: верхняя фигура определяет окно, через которое виден нижний объект.
Ответить на вопрос