ncurses 5.6 - patch 20080925
[ncurses.git] / ncurses / base / lib_mouse.c
index 0151eb39873928f324e594ed0f1049bd6a048f29..731025e30d3a12666ea06cc6888202c4b32bb18e 100644 (file)
@@ -79,7 +79,7 @@
 
 #include <curses.priv.h>
 
-MODULE_ID("$Id: lib_mouse.c,v 1.94 2008/05/31 20:30:10 tom Exp $")
+MODULE_ID("$Id: lib_mouse.c,v 1.99 2008/09/25 21:47:51 tom Exp $")
 
 #include <term.h>
 #include <tic.h>
@@ -150,7 +150,7 @@ make an error
 #define LIBGPM_SONAME "libgpm.so"
 #endif
 
-#define GET_DLSYM(name) (my_##name = (TYPE_##name) dlsym(obj, #name))
+#define GET_DLSYM(name) (my_##name = (TYPE_##name) dlsym(SP->_dlopen_gpm, #name))
 
 #endif                         /* USE_GPM_SUPPORT */
 
@@ -160,16 +160,25 @@ static void _nc_mouse_wrap(SCREEN *);
 
 /* maintain a circular list of mouse events */
 
+#define FirstEV(sp)    ((sp)->_mouse_events)
+#define LastEV(sp)     ((sp)->_mouse_events + EV_MAX - 1)
+
 #undef  NEXT
-#define NEXT(ep)       ((ep == sp->_mouse_events + EV_MAX - 1) \
-                        ? sp->_mouse_events \
+#define NEXT(ep)       ((ep >= LastEV(sp)) \
+                        ? FirstEV(sp) \
                         : ep + 1)
 
 #undef  PREV
-#define PREV(ep)       ((ep == sp->_mouse_events) \
-                        ? sp->_mouse_events + EV_MAX - 1 \
+#define PREV(ep)       ((ep <= FirstEV(sp)) \
+                        ? LastEV(sp) \
                         : ep - 1)
 
+#define IndexEV(sp, ep)        (ep - FirstEV(sp))
+
+#define RunParams(sp, eventp, runp) \
+               (long) IndexEV(sp, runp), \
+               (long) (IndexEV(sp, eventp) + (EV_MAX - 1)) % EV_MAX
+
 #ifdef TRACE
 static void
 _trace_slot(SCREEN *sp, const char *tag)
@@ -178,9 +187,9 @@ _trace_slot(SCREEN *sp, const char *tag)
 
     _tracef(tag);
 
-    for (ep = sp->_mouse_events; ep < sp->_mouse_events + EV_MAX; ep++)
+    for (ep = FirstEV(sp); ep <= LastEV(sp); ep++)
        _tracef("mouse event queue slot %ld = %s",
-               (long) (ep - sp->_mouse_events),
+               (long) IndexEV(sp, ep),
                _nc_tracemouse(sp, ep));
 }
 #endif
@@ -372,29 +381,69 @@ allow_gpm_mouse(void)
     return FALSE;
 }
 
+#ifdef HAVE_LIBDL
+static void
+unload_gpm_library(SCREEN *sp)
+{
+    if (SP->_dlopen_gpm != 0) {
+       T(("unload GPM library"));
+       sp->_mouse_gpm_loaded = FALSE;
+       dlclose(sp->_dlopen_gpm);
+       sp->_dlopen_gpm = 0;
+    }
+}
+
+static void
+load_gpm_library(SCREEN *sp)
+{
+    sp->_mouse_gpm_found = FALSE;
+    if ((sp->_dlopen_gpm = dlopen(LIBGPM_SONAME, my_RTLD)) != 0) {
+       if (GET_DLSYM(gpm_fd) == 0 ||
+           GET_DLSYM(Gpm_Open) == 0 ||
+           GET_DLSYM(Gpm_Close) == 0 ||
+           GET_DLSYM(Gpm_GetEvent) == 0) {
+           T(("GPM initialization failed: %s", dlerror()));
+           unload_gpm_library(sp);
+       } else {
+           sp->_mouse_gpm_found = TRUE;
+           sp->_mouse_gpm_loaded = TRUE;
+       }
+    }
+}
+#endif
+
 static bool
-enable_gpm_mouse(SCREEN *sp, int enable)
+enable_gpm_mouse(SCREEN *sp, bool enable)
 {
     bool result;
 
     T((T_CALLED("enable_gpm_mouse(%d)"), enable));
 
     if (enable && !sp->_mouse_active) {
-       /* GPM: initialize connection to gpm server */
-       sp->_mouse_gpm_connect.eventMask = GPM_DOWN | GPM_UP;
-       sp->_mouse_gpm_connect.defaultMask =
-           ~(sp->_mouse_gpm_connect.eventMask | GPM_HARD);
-       sp->_mouse_gpm_connect.minMod = 0;
-       sp->_mouse_gpm_connect.maxMod =
-           (unsigned short) (~((1 << KG_SHIFT) |
-                               (1 << KG_SHIFTL) |
-                               (1 << KG_SHIFTR)));
-       /*
-        * Note: GPM hardcodes \E[?1001s and \E[?1000h during its open.
-        * The former is recognized by wscons (SunOS), and the latter by
-        * xterm.  Those will not show up in ncurses' traces.
-        */
-       result = (my_Gpm_Open(&sp->_mouse_gpm_connect, 0) >= 0);
+#ifdef HAVE_LIBDL
+       if (sp->_mouse_gpm_found && !sp->_mouse_gpm_loaded) {
+           load_gpm_library(sp);
+       }
+#endif
+       if (sp->_mouse_gpm_loaded) {
+           /* GPM: initialize connection to gpm server */
+           sp->_mouse_gpm_connect.eventMask = GPM_DOWN | GPM_UP;
+           sp->_mouse_gpm_connect.defaultMask =
+               (unsigned short) (~(sp->_mouse_gpm_connect.eventMask | GPM_HARD));
+           sp->_mouse_gpm_connect.minMod = 0;
+           sp->_mouse_gpm_connect.maxMod =
+               (unsigned short) (~((1 << KG_SHIFT) |
+                                   (1 << KG_SHIFTL) |
+                                   (1 << KG_SHIFTR)));
+           /*
+            * Note: GPM hardcodes \E[?1001s and \E[?1000h during its open.
+            * The former is recognized by wscons (SunOS), and the latter by
+            * xterm.  Those will not show up in ncurses' traces.
+            */
+           result = (my_Gpm_Open(&sp->_mouse_gpm_connect, 0) >= 0);
+       } else {
+           result = FALSE;
+       }
        sp->_mouse_active = result;
        T(("GPM open %s", result ? "succeeded" : "failed"));
     } else {
@@ -404,8 +453,13 @@ enable_gpm_mouse(SCREEN *sp, int enable)
            sp->_mouse_active = FALSE;
            T(("GPM closed"));
        }
-       result = FALSE;
+       result = enable;
+    }
+#ifdef HAVE_LIBDL
+    if (!result) {
+       unload_gpm_library(sp);
     }
+#endif
     returnBool(result);
 }
 #endif /* USE_GPM_SUPPORT */
@@ -422,23 +476,11 @@ initialize_mousetype(SCREEN *sp)
     if (allow_gpm_mouse()) {
        if (!sp->_mouse_gpm_loaded) {
 #ifdef HAVE_LIBDL
-           void *obj;
-
-           if ((obj = dlopen(LIBGPM_SONAME, my_RTLD)) != 0) {
-               if (GET_DLSYM(gpm_fd) == 0 ||
-                   GET_DLSYM(Gpm_Open) == 0 ||
-                   GET_DLSYM(Gpm_Close) == 0 ||
-                   GET_DLSYM(Gpm_GetEvent) == 0) {
-                   T(("GPM initialization failed: %s", dlerror()));
-                   dlclose(obj);
-               } else {
-                   sp->_mouse_gpm_found = TRUE;
-               }
-           }
+           load_gpm_library(sp);
 #else /* !HAVE_LIBDL */
            sp->_mouse_gpm_found = TRUE;
-#endif
            sp->_mouse_gpm_loaded = TRUE;
+#endif
        }
 
        /*
@@ -591,7 +633,7 @@ _nc_mouse_init(SCREEN *sp)
 
            TR(MY_TRACE, ("_nc_mouse_init() called"));
 
-           sp->_mouse_eventp = sp->_mouse_events;
+           sp->_mouse_eventp = FirstEV(sp);
            for (i = 0; i < EV_MAX; i++)
                sp->_mouse_events[i].id = INVALID_EVENT;
 
@@ -758,7 +800,7 @@ _nc_mouse_inline(SCREEN *sp)
         * Wheel mice may return buttons 4 and 5 when the wheel is turned.
         * We encode those as button presses.
         */
-       for (grabbed = 0; grabbed < 3; grabbed += res) {
+       for (grabbed = 0; grabbed < 3; grabbed += (size_t) res) {
 
            /* For VIO mouse we add extra bit 64 to disambiguate button-up. */
 #if USE_EMX_MOUSE
@@ -788,9 +830,9 @@ _nc_mouse_inline(SCREEN *sp)
            eventp->bstate = MASK_RELEASE(n)
 #else
 #define PRESS_POSITION(n) \
-       eventp->bstate = (prev & MASK_PRESS(n) \
-                       ? REPORT_MOUSE_POSITION \
-                       : MASK_PRESS(n))
+       eventp->bstate = (mmask_t) (prev & MASK_PRESS(n) \
+                                   ? REPORT_MOUSE_POSITION \
+                                   : MASK_PRESS(n))
 #endif
 
        switch (kbuf[0] & 0x3) {
@@ -855,7 +897,7 @@ _nc_mouse_inline(SCREEN *sp)
        TR(MY_TRACE,
           ("_nc_mouse_inline: primitive mouse-event %s has slot %ld",
            _nc_tracemouse(sp, eventp),
-           (long) (eventp - sp->_mouse_events)));
+           (long) IndexEV(sp, eventp)));
 
        /* bump the next-free pointer into the circular list */
        sp->_mouse_eventp = NEXT(eventp);
@@ -888,7 +930,7 @@ mouse_activate(SCREEN *sp, bool on)
            break;
 #if USE_GPM_SUPPORT
        case M_GPM:
-           if (enable_gpm_mouse(sp, 1)) {
+           if (enable_gpm_mouse(sp, TRUE)) {
                sp->_mouse_fd = *(my_gpm_fd);
                T(("GPM mouse_fd %d", sp->_mouse_fd));
            }
@@ -920,7 +962,7 @@ mouse_activate(SCREEN *sp, bool on)
            break;
 #if USE_GPM_SUPPORT
        case M_GPM:
-           enable_gpm_mouse(sp, 0);
+           enable_gpm_mouse(sp, FALSE);
            break;
 #endif
 #if USE_SYSMOUSE
@@ -979,7 +1021,7 @@ _nc_mouse_parse(SCREEN *sp, int runcount)
        TR(MY_TRACE,
           ("_nc_mouse_parse: returning simple mouse event %s at slot %ld",
            _nc_tracemouse(sp, prev),
-           (long) (prev - sp->_mouse_events)));
+           (long) IndexEV(sp, prev)));
        return (prev->id >= NORMAL_EVENT)
            ? ((prev->bstate & sp->_mouse_mask) ? TRUE : FALSE)
            : FALSE;
@@ -995,8 +1037,7 @@ _nc_mouse_parse(SCREEN *sp, int runcount)
     if (USE_TRACEF(TRACE_IEVENT)) {
        _trace_slot(sp, "before mouse press/release merge:");
        _tracef("_nc_mouse_parse: run starts at %ld, ends at %ld, count %d",
-               (long) (runp - sp->_mouse_events),
-               (long) ((eventp - sp->_mouse_events) + (EV_MAX - 1)) % EV_MAX,
+               RunParams(sp, eventp, runp),
                runcount);
        _nc_unlock_global(tracef);
     }
@@ -1039,8 +1080,7 @@ _nc_mouse_parse(SCREEN *sp, int runcount)
     if (USE_TRACEF(TRACE_IEVENT)) {
        _trace_slot(sp, "before mouse click merge:");
        _tracef("_nc_mouse_parse: run starts at %ld, ends at %ld, count %d",
-               (long) (runp - sp->_mouse_events),
-               (long) ((eventp - sp->_mouse_events) + (EV_MAX - 1)) % EV_MAX,
+               RunParams(sp, eventp, runp),
                runcount);
        _nc_unlock_global(tracef);
     }
@@ -1111,8 +1151,7 @@ _nc_mouse_parse(SCREEN *sp, int runcount)
     if (USE_TRACEF(TRACE_IEVENT)) {
        _trace_slot(sp, "before mouse event queue compaction:");
        _tracef("_nc_mouse_parse: run starts at %ld, ends at %ld, count %d",
-               (long) (runp - sp->_mouse_events),
-               (long) ((eventp - sp->_mouse_events) + (EV_MAX - 1)) % EV_MAX,
+               RunParams(sp, eventp, runp),
                runcount);
        _nc_unlock_global(tracef);
     }
@@ -1130,8 +1169,7 @@ _nc_mouse_parse(SCREEN *sp, int runcount)
     if (USE_TRACEF(TRACE_IEVENT)) {
        _trace_slot(sp, "after mouse event queue compaction:");
        _tracef("_nc_mouse_parse: run starts at %ld, ends at %ld, count %d",
-               (long) (runp - sp->_mouse_events),
-               (long) ((eventp - sp->_mouse_events) + (EV_MAX - 1)) % EV_MAX,
+               RunParams(sp, eventp, runp),
                runcount);
        _nc_unlock_global(tracef);
     }
@@ -1140,7 +1178,7 @@ _nc_mouse_parse(SCREEN *sp, int runcount)
            TR(MY_TRACE,
               ("_nc_mouse_parse: returning composite mouse event %s at slot %ld",
                _nc_tracemouse(sp, ep),
-               (long) (ep - sp->_mouse_events)));
+               (long) IndexEV(sp, ep)));
 #endif /* TRACE */
 
     /* after all this, do we have a valid event? */
@@ -1227,7 +1265,7 @@ _nc_getmouse(SCREEN *sp, MEVENT * aevent)
 
        TR(TRACE_IEVENT, ("getmouse: returning event %s from slot %ld",
                          _nc_tracemouse(sp, prev),
-                         (long) (prev - sp->_mouse_events)));
+                         (long) IndexEV(sp, prev)));
 
        prev->id = INVALID_EVENT;       /* so the queue slot becomes free */
        returnCode(OK);
@@ -1302,9 +1340,6 @@ mousemask(mmask_t newmask, mmask_t * oldmask)
                SP->_mouse_mask = result;
            }
        }
-    } else {
-       if (oldmask)
-           *oldmask = SP->_mouse_mask;
     }
     returnBits(result);
 }