]> ncurses.scripts.mit.edu Git - ncurses.git/blobdiff - ncurses/base/lib_color.c
ncurses 6.0 - patch 20170325
[ncurses.git] / ncurses / base / lib_color.c
index 3339d56fc295b3796eaa7f9e98790dd58c70ac16..ed0c642727018722c0ee55cf2139c409122c2d2f 100644 (file)
@@ -1,5 +1,5 @@
 /****************************************************************************
- * Copyright (c) 1998-2012,2013 Free Software Foundation, Inc.              *
+ * Copyright (c) 1998-2016,2017 Free Software Foundation, Inc.              *
  *                                                                          *
  * Permission is hereby granted, free of charge, to any person obtaining a  *
  * copy of this software and associated documentation files (the            *
  * Handles color emulation of SYS V curses
  */
 
+#define NEW_PAIR_INTERNAL 1
+
 #include <curses.priv.h>
+#include <new_pair.h>
 #include <tic.h>
 
 #ifndef CUR
 #define CUR SP_TERMTYPE
 #endif
 
-MODULE_ID("$Id: lib_color.c,v 1.107 2013/01/12 17:25:36 tom Exp $")
+MODULE_ID("$Id: lib_color.c,v 1.115 2017/03/09 00:35:14 tom Exp $")
 
 #ifdef USE_TERM_DRIVER
 #define CanChange      InfoOf(SP_PARM).canchange
@@ -137,13 +140,6 @@ NCURSES_EXPORT_VAR(const color_t*) _nc_hls_palette = hls_palette;
 
 /* *INDENT-ON* */
 
-/*
- * Ensure that we use color pairs only when colors have been started, and also
- * that the index is within the limits of the table which we allocated.
- */
-#define ValidPair(pair) \
-    ((SP_PARM != 0) && (pair >= 0) && (pair < SP_PARM->_pair_limit) && SP_PARM->_coloron)
-
 #if NCURSES_EXT_FUNCS
 /*
  * These are called from _nc_do_color(), which in turn is called from
@@ -188,7 +184,7 @@ static void
 set_background_color(NCURSES_SP_DCLx int bg, NCURSES_SP_OUTC outc)
 {
 #ifdef USE_TERM_DRIVER
-    CallDriver_3(SP_PARM, color, FALSE, bg, outc);
+    CallDriver_3(SP_PARM, td_color, FALSE, bg, outc);
 #else
     if (set_a_background) {
        TPUTS_TRACE("set_a_background");
@@ -208,7 +204,7 @@ static void
 set_foreground_color(NCURSES_SP_DCLx int fg, NCURSES_SP_OUTC outc)
 {
 #ifdef USE_TERM_DRIVER
-    CallDriver_3(SP_PARM, color, TRUE, fg, outc);
+    CallDriver_3(SP_PARM, td_color, TRUE, fg, outc);
 #else
     if (set_a_foreground) {
        TPUTS_TRACE("set_a_foreground");
@@ -258,7 +254,7 @@ static bool
 reset_color_pair(NCURSES_SP_DCL0)
 {
 #ifdef USE_TERM_DRIVER
-    return CallDriver(SP_PARM, rescol);
+    return CallDriver(SP_PARM, td_rescol);
 #else
     bool result = FALSE;
 
@@ -288,7 +284,7 @@ NCURSES_SP_NAME(_nc_reset_colors) (NCURSES_SP_DCL0)
        result = TRUE;
 
 #ifdef USE_TERM_DRIVER
-    result = CallDriver(SP_PARM, rescolors);
+    result = CallDriver(SP_PARM, td_rescolors);
 #else
     if (orig_colors != 0) {
        NCURSES_PUTP2("orig_colors", orig_colors);
@@ -346,6 +342,8 @@ NCURSES_SP_NAME(start_color) (NCURSES_SP_DCL0)
             * allow for default-color as a component of a color-pair.
             */
            SP_PARM->_pair_limit += (1 + (2 * maxcolors));
+           if ((NCURSES_PAIRS_T) SP_PARM->_pair_limit < 0)
+               SP_PARM->_pair_limit = MAX_XCURSES_PAIR;
 #endif
            SP_PARM->_pair_count = maxpairs;
            SP_PARM->_color_count = maxcolors;
@@ -358,8 +356,9 @@ NCURSES_SP_NAME(start_color) (NCURSES_SP_DCL0)
            if (SP_PARM->_color_pairs != 0) {
                SP_PARM->_color_table = TYPE_CALLOC(color_t, maxcolors);
                if (SP_PARM->_color_table != 0) {
-                   SP_PARM->_color_pairs[0] = PAIR_OF(default_fg(NCURSES_SP_ARG),
-                                                      default_bg(NCURSES_SP_ARG));
+                   MakeColorPair(SP_PARM->_color_pairs[0],
+                                 default_fg(NCURSES_SP_ARG),
+                                 default_bg(NCURSES_SP_ARG));
                    init_color_table(NCURSES_SP_ARG);
 
                    T(("started color: COLORS = %d, COLOR_PAIRS = %d",
@@ -388,7 +387,7 @@ start_color(void)
 
 /* This function was originally written by Daniel Weaver <danw@znyx.com> */
 static void
-rgb2hls(int r, int g, int b, short *h, short *l, short *s)
+rgb2hls(int r, int g, int b, NCURSES_COLOR_T *h, NCURSES_COLOR_T *l, NCURSES_COLOR_T *s)
 /* convert RGB to HLS system */
 {
     int min, max, t;
@@ -399,7 +398,7 @@ rgb2hls(int r, int g, int b, short *h, short *l, short *s)
        max = b;
 
     /* calculate lightness */
-    *l = (short) ((min + max) / 20);
+    *l = (NCURSES_COLOR_T) ((min + max) / 20);
 
     if (min == max) {          /* black, white and all shades of gray */
        *h = 0;
@@ -409,19 +408,44 @@ rgb2hls(int r, int g, int b, short *h, short *l, short *s)
 
     /* calculate saturation */
     if (*l < 50)
-       *s = (short) (((max - min) * 100) / (max + min));
+       *s = (NCURSES_COLOR_T) (((max - min) * 100) / (max + min));
     else
-       *s = (short) (((max - min) * 100) / (2000 - max - min));
+       *s = (NCURSES_COLOR_T) (((max - min) * 100) / (2000 - max - min));
 
     /* calculate hue */
     if (r == max)
-       t = (short) (120 + ((g - b) * 60) / (max - min));
+       t = (NCURSES_COLOR_T) (120 + ((g - b) * 60) / (max - min));
     else if (g == max)
-       t = (short) (240 + ((b - r) * 60) / (max - min));
+       t = (NCURSES_COLOR_T) (240 + ((b - r) * 60) / (max - min));
     else
-       t = (short) (360 + ((r - g) * 60) / (max - min));
+       t = (NCURSES_COLOR_T) (360 + ((r - g) * 60) / (max - min));
 
-    *h = (short) (t % 360);
+    *h = (NCURSES_COLOR_T) (t % 360);
+}
+
+/*
+ * Change all cells which use(d) a given color pair to force a repaint.
+ */
+NCURSES_EXPORT(void)
+_nc_change_pair(SCREEN *sp, int pair)
+{
+    int y, x;
+
+    for (y = 0; y <= CurScreen(sp)->_maxy; y++) {
+       struct ldat *ptr = &(CurScreen(sp)->_line[y]);
+       bool changed = FALSE;
+       for (x = 0; x <= CurScreen(sp)->_maxx; x++) {
+           if (GetPair(ptr->text[x]) == pair) {
+               /* Set the old cell to zero to ensure it will be
+                  updated on the next doupdate() */
+               SetChar(ptr->text[x], 0, 0);
+               CHANGED_CELL(ptr, x);
+               changed = TRUE;
+           }
+       }
+       if (changed)
+           NCURSES_SP_NAME(_nc_make_oldhash) (NCURSES_SP_ARGx y);
+    }
 }
 
 /*
@@ -429,15 +453,23 @@ rgb2hls(int r, int g, int b, short *h, short *l, short *s)
  * values.
  */
 NCURSES_EXPORT(int)
-NCURSES_SP_NAME(init_pair) (NCURSES_SP_DCLx short pair, short f, short b)
+NCURSES_SP_NAME(init_pair) (NCURSES_SP_DCLx
+                           NCURSES_PAIRS_T pair,
+                           NCURSES_COLOR_T f,
+                           NCURSES_COLOR_T b)
 {
-    colorpair_t result;
+    static colorpair_t null_pair;
+    colorpair_t result = null_pair;
     colorpair_t previous;
     int maxcolors;
 
-    T((T_CALLED("init_pair(%p,%d,%d,%d)"), (void *) SP_PARM, pair, f, b));
+    T((T_CALLED("init_pair(%p,%d,%d,%d)"),
+       (void *) SP_PARM,
+       (int) pair,
+       (int) f,
+       (int) b));
 
-    if (!ValidPair(pair))
+    if (!ValidPair(SP_PARM, pair))
        returnCode(ERR);
 
     maxcolors = MaxColors;
@@ -472,8 +504,8 @@ NCURSES_SP_NAME(init_pair) (NCURSES_SP_DCLx short pair, short f, short b)
         * Check if the table entry that we are going to init/update used
         * default colors.
         */
-       if ((FORE_OF(previous) == COLOR_DEFAULT)
-           || (BACK_OF(previous) == COLOR_DEFAULT))
+       if (isDefaultColor(FORE_OF(previous))
+           || isDefaultColor(BACK_OF(previous)))
            wasDefault = TRUE;
 
        /*
@@ -513,49 +545,41 @@ NCURSES_SP_NAME(init_pair) (NCURSES_SP_DCLx short pair, short f, short b)
      * initialized before a screen update is performed replacing original
      * pair colors with the new ones).
      */
-    result = PAIR_OF(f, b);
-    if (previous != 0
-       && previous != result) {
-       int y, x;
-
-       for (y = 0; y <= CurScreen(SP_PARM)->_maxy; y++) {
-           struct ldat *ptr = &(CurScreen(SP_PARM)->_line[y]);
-           bool changed = FALSE;
-           for (x = 0; x <= CurScreen(SP_PARM)->_maxx; x++) {
-               if (GetPair(ptr->text[x]) == pair) {
-                   /* Set the old cell to zero to ensure it will be
-                      updated on the next doupdate() */
-                   SetChar(ptr->text[x], 0, 0);
-                   CHANGED_CELL(ptr, x);
-                   changed = TRUE;
-               }
-           }
-           if (changed)
-               NCURSES_SP_NAME(_nc_make_oldhash) (NCURSES_SP_ARGx y);
-       }
+    MakeColorPair(result, f, b);
+    if (FORE_OF(previous) != 0
+       && BACK_OF(previous) != 0
+       && !isSamePair(previous, result)) {
+       _nc_change_pair(SP_PARM, pair);
     }
 
+    _nc_reset_color_pair(SP_PARM, pair, &result);
     SP_PARM->_color_pairs[pair] = result;
+    _nc_set_color_pair(SP_PARM, pair, cpINIT);
+
     if (GET_SCREEN_PAIR(SP_PARM) == pair)
-       SET_SCREEN_PAIR(SP_PARM, (chtype) (~0));        /* force attribute update */
+       SET_SCREEN_PAIR(SP_PARM, (int) (~0));   /* force attribute update */
 
 #ifdef USE_TERM_DRIVER
-    CallDriver_3(SP_PARM, initpair, pair, f, b);
+    CallDriver_3(SP_PARM, td_initpair, pair, f, b);
 #else
     if (initialize_pair && InPalette(f) && InPalette(b)) {
        const color_t *tp = DefaultPalette;
 
        TR(TRACE_ATTRS,
           ("initializing pair: pair = %d, fg=(%d,%d,%d), bg=(%d,%d,%d)",
-           pair,
-           tp[f].red, tp[f].green, tp[f].blue,
-           tp[b].red, tp[b].green, tp[b].blue));
+           (int) pair,
+           (int) tp[f].red, (int) tp[f].green, (int) tp[f].blue,
+           (int) tp[b].red, (int) tp[b].green, (int) tp[b].blue));
 
        NCURSES_PUTP2("initialize_pair",
                      TPARM_7(initialize_pair,
                              pair,
-                             tp[f].red, tp[f].green, tp[f].blue,
-                             tp[b].red, tp[b].green, tp[b].blue));
+                             (int) tp[f].red,
+                             (int) tp[f].green,
+                             (int) tp[f].blue,
+                             (int) tp[b].red,
+                             (int) tp[b].green,
+                             (int) tp[b].blue));
     }
 #endif
 
@@ -564,7 +588,7 @@ NCURSES_SP_NAME(init_pair) (NCURSES_SP_DCLx short pair, short f, short b)
 
 #if NCURSES_SP_FUNCS
 NCURSES_EXPORT(int)
-init_pair(short pair, short f, short b)
+init_pair(NCURSES_COLOR_T pair, NCURSES_COLOR_T f, NCURSES_COLOR_T b)
 {
     return NCURSES_SP_NAME(init_pair) (CURRENT_SCREEN, pair, f, b);
 }
@@ -574,7 +598,10 @@ init_pair(short pair, short f, short b)
 
 NCURSES_EXPORT(int)
 NCURSES_SP_NAME(init_color) (NCURSES_SP_DCLx
-                            short color, short r, short g, short b)
+                            NCURSES_COLOR_T color,
+                            NCURSES_COLOR_T r,
+                            NCURSES_COLOR_T g,
+                            NCURSES_COLOR_T b)
 {
     int result = ERR;
     int maxcolors;
@@ -611,7 +638,7 @@ NCURSES_SP_NAME(init_color) (NCURSES_SP_DCLx
        }
 
 #ifdef USE_TERM_DRIVER
-       CallDriver_4(SP_PARM, initcolor, color, r, g, b);
+       CallDriver_4(SP_PARM, td_initcolor, color, r, g, b);
 #else
        NCURSES_PUTP2("initialize_color",
                      TPARM_4(initialize_color, color, r, g, b));
@@ -625,7 +652,10 @@ NCURSES_SP_NAME(init_color) (NCURSES_SP_DCLx
 
 #if NCURSES_SP_FUNCS
 NCURSES_EXPORT(int)
-init_color(short color, short r, short g, short b)
+init_color(NCURSES_COLOR_T color,
+          NCURSES_COLOR_T r,
+          NCURSES_COLOR_T g,
+          NCURSES_COLOR_T b)
 {
     return NCURSES_SP_NAME(init_color) (CURRENT_SCREEN, color, r, g, b);
 }
@@ -685,7 +715,10 @@ has_colors(void)
 
 NCURSES_EXPORT(int)
 NCURSES_SP_NAME(color_content) (NCURSES_SP_DCLx
-                               short color, short *r, short *g, short *b)
+                               NCURSES_COLOR_T color,
+                               NCURSES_COLOR_T *r,
+                               NCURSES_COLOR_T *g,
+                               NCURSES_COLOR_T *b)
 {
     int result = ERR;
     int maxcolors;
@@ -725,7 +758,10 @@ NCURSES_SP_NAME(color_content) (NCURSES_SP_DCLx
 
 #if NCURSES_SP_FUNCS
 NCURSES_EXPORT(int)
-color_content(short color, short *r, short *g, short *b)
+color_content(NCURSES_COLOR_T color,
+             NCURSES_COLOR_T *r,
+             NCURSES_COLOR_T *g,
+             NCURSES_COLOR_T *b)
 {
     return NCURSES_SP_NAME(color_content) (CURRENT_SCREEN, color, r, g, b);
 }
@@ -733,26 +769,28 @@ color_content(short color, short *r, short *g, short *b)
 
 NCURSES_EXPORT(int)
 NCURSES_SP_NAME(pair_content) (NCURSES_SP_DCLx
-                              short pair, short *f, short *b)
+                              NCURSES_PAIRS_T pair,
+                              NCURSES_COLOR_T *f,
+                              NCURSES_COLOR_T *b)
 {
     int result;
 
     T((T_CALLED("pair_content(%p,%d,%p,%p)"),
        (void *) SP_PARM,
-       pair,
+       (int) pair,
        (void *) f,
        (void *) b));
 
-    if (!ValidPair(pair)) {
+    if (!ValidPair(SP_PARM, pair)) {
        result = ERR;
     } else {
        NCURSES_COLOR_T fg = (NCURSES_COLOR_T) FORE_OF(SP_PARM->_color_pairs[pair]);
        NCURSES_COLOR_T bg = (NCURSES_COLOR_T) BACK_OF(SP_PARM->_color_pairs[pair]);
 
 #if NCURSES_EXT_FUNCS
-       if (fg == COLOR_DEFAULT)
+       if (isDefaultColor(fg))
            fg = -1;
-       if (bg == COLOR_DEFAULT)
+       if (isDefaultColor(bg))
            bg = -1;
 #endif
 
@@ -763,8 +801,8 @@ NCURSES_SP_NAME(pair_content) (NCURSES_SP_DCLx
 
        TR(TRACE_ATTRS, ("...pair_content(%p,%d,%d,%d)",
                         (void *) SP_PARM,
-                        pair,
-                        fg, bg));
+                        (int) pair,
+                        (int) fg, (int) bg));
        result = OK;
     }
     returnCode(result);
@@ -772,7 +810,7 @@ NCURSES_SP_NAME(pair_content) (NCURSES_SP_DCLx
 
 #if NCURSES_SP_FUNCS
 NCURSES_EXPORT(int)
-pair_content(short pair, short *f, short *b)
+pair_content(NCURSES_COLOR_T pair, NCURSES_COLOR_T *f, NCURSES_COLOR_T *b)
 {
     return NCURSES_SP_NAME(pair_content) (CURRENT_SCREEN, pair, f, b);
 }
@@ -786,13 +824,14 @@ NCURSES_SP_NAME(_nc_do_color) (NCURSES_SP_DCLx
                               NCURSES_SP_OUTC outc)
 {
 #ifdef USE_TERM_DRIVER
-    CallDriver_4(SP_PARM, docolor, old_pair, pair, reverse, outc);
+    CallDriver_4(SP_PARM, td_docolor, old_pair, pair, reverse, outc);
 #else
     NCURSES_COLOR_T fg = COLOR_DEFAULT;
     NCURSES_COLOR_T bg = COLOR_DEFAULT;
-    NCURSES_COLOR_T old_fg, old_bg;
+    NCURSES_COLOR_T old_fg = -1;
+    NCURSES_COLOR_T old_bg = -1;
 
-    if (!ValidPair(pair)) {
+    if (!ValidPair(SP_PARM, pair)) {
        return;
     } else if (pair != 0) {
        if (set_color_pair) {
@@ -802,14 +841,14 @@ NCURSES_SP_NAME(_nc_do_color) (NCURSES_SP_DCLx
                                    1, outc);
            return;
        } else if (SP_PARM != 0) {
-           if (pair_content((short) pair, &fg, &bg) == ERR)
+           if (pair_content((NCURSES_COLOR_T) pair, &fg, &bg) == ERR)
                return;
        }
     }
 
     if (old_pair >= 0
        && SP_PARM != 0
-       && pair_content((short) old_pair, &old_fg, &old_bg) != ERR) {
+       && pair_content((NCURSES_COLOR_T) old_pair, &old_fg, &old_bg) != ERR) {
        if ((isDefaultColor(fg) && !isDefaultColor(old_fg))
            || (isDefaultColor(bg) && !isDefaultColor(old_bg))) {
 #if NCURSES_EXT_FUNCS
@@ -832,15 +871,15 @@ NCURSES_SP_NAME(_nc_do_color) (NCURSES_SP_DCLx
        }
     } else {
        reset_color_pair(NCURSES_SP_ARG);
-       if (old_pair < 0)
+       if (old_pair < 0 && pair <= 0)
            return;
     }
 
 #if NCURSES_EXT_FUNCS
     if (isDefaultColor(fg))
-       fg = (short) default_fg(NCURSES_SP_ARG);
+       fg = (NCURSES_COLOR_T) default_fg(NCURSES_SP_ARG);
     if (isDefaultColor(bg))
-       bg = (short) default_bg(NCURSES_SP_ARG);
+       bg = (NCURSES_COLOR_T) default_bg(NCURSES_SP_ARG);
 #endif
 
     if (reverse) {