]> ncurses.scripts.mit.edu Git - ncurses.git/blobdiff - ncurses/base/lib_color.c
ncurses 5.5
[ncurses.git] / ncurses / base / lib_color.c
index 86c3fba32cbb057579bf0078904ed358988b9094..27fb37278b8ea9606c9223416c30b20e80009223 100644 (file)
@@ -1,5 +1,5 @@
 /****************************************************************************
- * Copyright (c) 1998-2001,2002 Free Software Foundation, Inc.              *
+ * Copyright (c) 1998-2004,2005 Free Software Foundation, Inc.              *
  *                                                                          *
  * Permission is hereby granted, free of charge, to any person obtaining a  *
  * copy of this software and associated documentation files (the            *
@@ -29,6 +29,7 @@
 /****************************************************************************
  *  Author: Zeyd M. Ben-Halim <zmbenhal@netcom.com> 1992,1995               *
  *     and: Eric S. Raymond <esr@snark.thyrsus.com>                         *
+ *     and: Thomas E. Dickey                        1996-on                 *
  ****************************************************************************/
 
 /* lib_color.c
@@ -41,7 +42,7 @@
 #include <term.h>
 #include <tic.h>
 
-MODULE_ID("$Id: lib_color.c,v 1.62 2002/09/28 20:40:05 tom Exp $")
+MODULE_ID("$Id: lib_color.c,v 1.75 2005/06/18 20:19:08 tom Exp $")
 
 /*
  * These should be screen structure members.  They need to be globals for
@@ -53,6 +54,8 @@ NCURSES_EXPORT_VAR(int) COLORS = 0;
 
 #define DATA(r,g,b) {r,g,b, 0,0,0, 0}
 
+#define TYPE_CALLOC(type,elts) typeCalloc(type, (unsigned)(elts))
+
 /*
  * Given a RGB range of 0..1000, we'll normally set the individual values
  * to about 2/3 of the maximum, leaving full-range for bold/bright colors.
@@ -222,7 +225,11 @@ start_color(void)
 
     T((T_CALLED("start_color()")));
 
-    if (!SP->_coloron) {
+    if (SP == 0) {
+       result = ERR;
+    } else if (SP->_coloron) {
+       result = OK;
+    } else {
 
        if (reset_color_pair() != TRUE) {
            set_foreground_color(default_fg(), _nc_outch);
@@ -233,9 +240,10 @@ start_color(void)
            COLOR_PAIRS = SP->_pair_count = max_pairs;
            COLORS = SP->_color_count = max_colors;
 
-           if ((SP->_color_pairs = typeCalloc(unsigned short,
-                                                (unsigned) max_pairs)) != 0) {
-               if ((SP->_color_table = typeCalloc(color_t, max_colors)) != 0) {
+           if ((SP->_color_pairs = TYPE_CALLOC(colorpair_t,
+                                               max_pairs)) != 0) {
+               if ((SP->_color_table = TYPE_CALLOC(color_t,
+                                                   max_colors)) != 0) {
                    SP->_color_pairs[0] = PAIR_OF(default_fg(), default_bg());
                    init_color_table();
 
@@ -244,13 +252,15 @@ start_color(void)
 
                    SP->_coloron = 1;
                    result = OK;
-               } else {
+               } else if (SP->_color_pairs != 0) {
                    FreeAndNull(SP->_color_pairs);
                }
            }
+       } else {
+           result = OK;
        }
     }
-    returnCode(OK);
+    returnCode(result);
 }
 
 /* This function was originally written by Daniel Weaver <danw@znyx.com> */
@@ -298,21 +308,21 @@ rgb2hls(short r, short g, short b, short *h, short *l, short *s)
 NCURSES_EXPORT(int)
 init_pair(short pair, short f, short b)
 {
-    unsigned result;
+    colorpair_t result;
 
     T((T_CALLED("init_pair(%d,%d,%d)"), pair, f, b));
 
-    if ((pair < 0) || (pair >= COLOR_PAIRS))
+    if ((pair < 0) || (pair >= COLOR_PAIRS) || SP == 0 || !SP->_coloron)
        returnCode(ERR);
 #if NCURSES_EXT_FUNCS
     if (SP->_default_color) {
        if (f < 0)
-           f = C_MASK;
+           f = COLOR_DEFAULT;
        if (b < 0)
-           b = C_MASK;
-       if (f >= COLORS && f != C_MASK)
+           b = COLOR_DEFAULT;
+       if (f >= COLORS && !isDefaultColor(f))
            returnCode(ERR);
-       if (b >= COLORS && b != C_MASK)
+       if (b >= COLORS && !isDefaultColor(b))
            returnCode(ERR);
     } else
 #endif
@@ -332,13 +342,12 @@ init_pair(short pair, short f, short b)
     if (SP->_color_pairs[pair] != 0
        && SP->_color_pairs[pair] != result) {
        int y, x;
-       attr_t z = COLOR_PAIR(pair);
 
        for (y = 0; y <= curscr->_maxy; y++) {
            struct ldat *ptr = &(curscr->_line[y]);
            bool changed = FALSE;
            for (x = 0; x <= curscr->_maxx; x++) {
-               if ((AttrOf(ptr->text[x]) & A_COLOR) == z) {
+               if (GetPair(ptr->text[x]) == pair) {
                    /* Set the old cell to zero to ensure it will be
                       updated on the next doupdate() */
                    SetChar(ptr->text[x], 0, 0);
@@ -351,8 +360,8 @@ init_pair(short pair, short f, short b)
        }
     }
     SP->_color_pairs[pair] = result;
-    if ((int) (SP->_current_attr & A_COLOR) == COLOR_PAIR(pair))
-       SP->_current_attr |= A_COLOR;   /* force attribute update */
+    if (GET_SCREEN_PAIR(SP) == pair)
+       SET_SCREEN_PAIR(SP, ~0);        /* force attribute update */
 
     if (initialize_pair) {
        const color_t *tp = hue_lightness_saturation ? hls_palette : cga_palette;
@@ -374,7 +383,7 @@ init_pair(short pair, short f, short b)
     returnCode(OK);
 }
 
-#define okRGB(n) ((n) >= 0 && (n) < 1000)
+#define okRGB(n) ((n) >= 0 && (n) <= 1000)
 
 NCURSES_EXPORT(int)
 init_color(short color, short r, short g, short b)
@@ -384,6 +393,8 @@ init_color(short color, short r, short g, short b)
     T((T_CALLED("init_color(%d,%d,%d,%d)"), color, r, g, b));
 
     if (initialize_color != NULL
+       && SP != 0
+       && SP->_coloron
        && (color >= 0 && color < COLORS)
        && (okRGB(r) && okRGB(g) && okRGB(b))) {
 
@@ -433,40 +444,65 @@ has_colors(void)
 NCURSES_EXPORT(int)
 color_content(short color, short *r, short *g, short *b)
 {
-    T((T_CALLED("color_content(%d,%p,%p,%p)"), color, r, g, b));
-    if (color < 0 || color >= COLORS)
-       returnCode(ERR);
+    int result;
 
-    if (r)
-       *r = SP->_color_table[color].red;
-    if (g)
-       *g = SP->_color_table[color].green;
-    if (b)
-       *b = SP->_color_table[color].blue;
-    T(("...color_content(%d,%d,%d,%d)", color, *r, *g, *b));
-    returnCode(OK);
+    T((T_CALLED("color_content(%d,%p,%p,%p)"), color, r, g, b));
+    if (color < 0 || color >= COLORS || SP == 0 || !SP->_coloron) {
+       result = ERR;
+    } else {
+       NCURSES_COLOR_T c_r = SP->_color_table[color].red;
+       NCURSES_COLOR_T c_g = SP->_color_table[color].green;
+       NCURSES_COLOR_T c_b = SP->_color_table[color].blue;
+
+       if (r)
+           *r = c_r;
+       if (g)
+           *g = c_g;
+       if (b)
+           *b = c_b;
+
+       T(("...color_content(%d,%d,%d,%d)", color, c_r, c_g, c_b));
+       result = OK;
+    }
+    returnCode(result);
 }
 
 NCURSES_EXPORT(int)
 pair_content(short pair, short *f, short *b)
 {
+    int result;
+
     T((T_CALLED("pair_content(%d,%p,%p)"), pair, f, b));
 
-    if ((pair < 0) || (pair >= COLOR_PAIRS))
-       returnCode(ERR);
-    if (f)
-       *f = ((SP->_color_pairs[pair] >> C_SHIFT) & C_MASK);
-    if (b)
-       *b = (SP->_color_pairs[pair] & C_MASK);
+    if ((pair < 0) || (pair >= COLOR_PAIRS) || SP == 0 || !SP->_coloron) {
+       result = ERR;
+    } else {
+       NCURSES_COLOR_T fg = ((SP->_color_pairs[pair] >> C_SHIFT) & C_MASK);
+       NCURSES_COLOR_T bg = (SP->_color_pairs[pair] & C_MASK);
 
-    T(("...pair_content(%d,%d,%d)", pair, *f, *b));
-    returnCode(OK);
+#if NCURSES_EXT_FUNCS
+       if (fg == COLOR_DEFAULT)
+           fg = -1;
+       if (bg == COLOR_DEFAULT)
+           bg = -1;
+#endif
+
+       if (f)
+           *f = fg;
+       if (b)
+           *b = bg;
+
+       T(("...pair_content(%d,%d,%d)", pair, fg, bg));
+       result = OK;
+    }
+    returnCode(result);
 }
 
 NCURSES_EXPORT(void)
 _nc_do_color(int old_pair, int pair, bool reverse, int (*outc) (int))
 {
-    NCURSES_COLOR_T fg = C_MASK, bg = C_MASK;
+    NCURSES_COLOR_T fg = COLOR_DEFAULT;
+    NCURSES_COLOR_T bg = COLOR_DEFAULT;
     NCURSES_COLOR_T old_fg, old_bg;
 
     if (pair < 0 || pair >= COLOR_PAIRS) {
@@ -484,17 +520,21 @@ _nc_do_color(int old_pair, int pair, bool reverse, int (*outc) (int))
     if (old_pair >= 0
        && SP != 0
        && pair_content(old_pair, &old_fg, &old_bg) != ERR) {
-       if ((fg == C_MASK && old_fg != C_MASK)
-           || (bg == C_MASK && old_bg != C_MASK)) {
+       if ((isDefaultColor(fg) && !isDefaultColor(old_fg))
+           || (isDefaultColor(bg) && !isDefaultColor(old_bg))) {
 #if NCURSES_EXT_FUNCS
            /*
             * A minor optimization - but extension.  If "AX" is specified in
             * the terminal description, treat it as screen's indicator of ECMA
             * SGR 39 and SGR 49, and assume the two sequences are independent.
             */
-           if (SP->_has_sgr_39_49 && old_bg == C_MASK && old_fg != C_MASK) {
+           if (SP->_has_sgr_39_49
+               && isDefaultColor(old_bg)
+               && !isDefaultColor(old_fg)) {
                tputs("\033[39m", 1, outc);
-           } else if (SP->_has_sgr_39_49 && old_fg == C_MASK && old_bg != C_MASK) {
+           } else if (SP->_has_sgr_39_49
+                      && isDefaultColor(old_fg)
+                      && !isDefaultColor(old_bg)) {
                tputs("\033[49m", 1, outc);
            } else
 #endif
@@ -507,9 +547,9 @@ _nc_do_color(int old_pair, int pair, bool reverse, int (*outc) (int))
     }
 
 #if NCURSES_EXT_FUNCS
-    if (fg == C_MASK)
+    if (isDefaultColor(fg))
        fg = default_fg();
-    if (bg == C_MASK)
+    if (isDefaultColor(bg))
        bg = default_bg();
 #endif
 
@@ -522,10 +562,10 @@ _nc_do_color(int old_pair, int pair, bool reverse, int (*outc) (int))
     TR(TRACE_ATTRS, ("setting colors: pair = %d, fg = %d, bg = %d", pair,
                     fg, bg));
 
-    if (fg != C_MASK) {
+    if (!isDefaultColor(fg)) {
        set_foreground_color(fg, outc);
     }
-    if (bg != C_MASK) {
+    if (!isDefaultColor(bg)) {
        set_background_color(bg, outc);
     }
 }