0.014 release
[imager-screenshot.git] / scx11.c
diff --git a/scx11.c b/scx11.c
index bdea60f..d13cac8 100644 (file)
--- a/scx11.c
+++ b/scx11.c
@@ -1,5 +1,7 @@
 #include "imext.h"
 #include <X11/Xlib.h>
+#include <X11/Xutil.h>
+#include "imss.h"
 
 static
 int
@@ -8,20 +10,25 @@ my_handler(Display *display, XErrorEvent *error) {
 
   XGetErrorText(display, error->error_code, buffer, sizeof(buffer));
   i_push_error(error->error_code, buffer);
+
+  return 0;
 }
 
 i_img *
-imss_x11(unsigned long display_ul, unsigned long window_id) {
+imss_x11(unsigned long display_ul, int window_id,
+        int left, int top, int right, int bottom, int direct) {
   Display *display = (Display *)display_ul;
   int own_display = 0; /* non-zero if we connect */
-  GC gc;
-  XImage *image;
+  XImage *image = NULL;
   XWindowAttributes attr;
   i_img *result;
   i_color *line, *cp;
   int x, y;
   XColor *colors;
   XErrorHandler old_handler;
+  int width, height;
+  int root_id;
+  int screen;
 
   i_clear_error();
 
@@ -32,53 +39,125 @@ imss_x11(unsigned long display_ul, unsigned long window_id) {
     display = XOpenDisplay(NULL);
     ++own_display;
     if (!display) {
-      XSetErrorHandler(old_handler);
       i_push_error(0, "No display supplied and cannot connect");
-      return NULL;
+      goto fail;
     }
   }
 
+  screen = DefaultScreen(display);
+  root_id = RootWindow(display, screen);
   if (!window_id) {
-    int screen = DefaultScreen(display);
-    window_id = RootWindow(display, 0);
+    window_id = root_id;
   }
 
   if (!XGetWindowAttributes(display, window_id, &attr)) {
-    XSetErrorHandler(old_handler);
-    if (own_display)
-      XCloseDisplay(display);
     i_push_error(0, "Cannot XGetWindowAttributes");
-    return NULL;
+    goto fail;
   }
 
-  image = XGetImage(display, window_id, 0, 0, attr.width, attr.height,
-                    -1, ZPixmap);
+  /* adjust negative/zero values to window size */
+  if (left < 0)
+    left += attr.width;
+  if (top < 0)
+    top += attr.height;
+  if (right <= 0)
+    right += attr.width;
+  if (bottom <= 0)
+    bottom += attr.height;
+
+  mm_log((3, "window @(%d,%d) %dx%d\n", attr.x, attr.y, attr.width, attr.height));
+  
+  /* clamp */
+  if (left < 0)
+    left = 0;
+  if (right > attr.width)
+    right = attr.width;
+  if (top < 0)
+    top = 0;
+  if (bottom > attr.height)
+    bottom = attr.height;
+
+  /* validate */
+  if (right <= left || bottom <= top) {
+    i_push_error(0, "image would be empty");
+    goto fail;
+  }
+  width = right - left;
+  height = bottom - top;
+  if (direct) {
+    /* try to get the pixels directly, this returns black images in
+       some ill-determined cases, I suspect compositing.
+    */
+    image = XGetImage(display, window_id, left, top, width, height,
+                     -1, ZPixmap);
+  }
+  else {
+    int rootx = left, rooty = top;
+    Window child_id; /* ignored */
+
+    if (root_id != window_id) {
+      XWindowAttributes root_attr;
+
+      if (!XTranslateCoordinates(display, window_id, root_id, left, top,
+                                &rootx, &rooty, &child_id)) {
+       i_push_error(0, "could not translate co-ordinates");
+       goto fail;
+      }
+
+      if (!XGetWindowAttributes(display, root_id, &root_attr)) {
+       i_push_error(0, "Cannot XGetWindowAttributes for root");
+       goto fail;
+      }
+
+      /* clip the window to the root, in case it's partly off the edge
+        of the root window
+      */
+      if (rootx < 0) {
+       width += rootx;
+       rootx = 0;
+      }
+      if (rootx + width > root_attr.width) {
+       width = root_attr.width - rootx;
+      }
+      if (rooty < 0) {
+       height += rooty;
+       rooty = 0;
+      }
+      if (rooty + height > root_attr.height) {
+       height = root_attr.height - rooty;
+      }
+
+      if (width == 0 || height == 0) {
+       i_push_error(0, "window is completely clipped by the root window");
+       goto fail;
+      }
+    }
+    image = XGetImage(display, root_id, rootx, rooty,
+                     width, height, -1, ZPixmap);
+  }
   if (!image) {
-    XSetErrorHandler(old_handler);
-    if (own_display)
-      XCloseDisplay(display);
     i_push_error(0, "Cannot XGetImage");
-    return NULL;
+    goto fail;
   }
 
-  result = i_img_8_new(attr.width, attr.height, 3);
-  line = mymalloc(sizeof(i_color) * attr.width);
-  colors = mymalloc(sizeof(XColor) * attr.width);
-  for (y = 0; y < attr.height; ++y) {
+  result = i_img_8_new(width, height, 3);
+  line = mymalloc(sizeof(i_color) * width);
+  colors = mymalloc(sizeof(XColor) * width);
+  for (y = 0; y < height; ++y) {
     cp = line;
     /* XQueryColors seems to be a round-trip, so do one big request
        instead of one per pixel */
-    for (x = 0; x < attr.width; ++x) {
+    for (x = 0; x < width; ++x) {
       colors[x].pixel = XGetPixel(image, x, y);
     }
-    XQueryColors(display, attr.colormap, colors, attr.width);
-    for (x = 0; x < attr.width; ++x) {
+    XQueryColors(display, attr.colormap, colors, width);
+    for (x = 0; x < width; ++x) {
       cp->rgb.r = colors[x].red >> 8;
       cp->rgb.g = colors[x].green >> 8;
       cp->rgb.b = colors[x].blue >> 8;
       ++cp;
     }
-    i_plin(result, 0, attr.width, y, line);
+    i_plin(result, 0, width, y, line);
   }
   myfree(line);
   myfree(colors);
@@ -88,7 +167,22 @@ imss_x11(unsigned long display_ul, unsigned long window_id) {
   if (own_display)
     XCloseDisplay(display);
 
+  i_tags_setn(&result->tags, "ss_window_width", attr.width);
+  i_tags_setn(&result->tags, "ss_window_height", attr.height);
+  i_tags_set(&result->tags, "ss_type", "X11", 3);
+  i_tags_setn(&result->tags, "ss_left", left);
+  i_tags_setn(&result->tags, "ss_top", top);
+
   return result;
+
+ fail:
+  if (image)
+    XDestroyImage(image);
+
+  XSetErrorHandler(old_handler);
+  if (own_display)
+    XCloseDisplay(display);
+  return NULL;
 }
 
 unsigned long