README.rst: new file with basic usage information

run-tests.m: update header comment

You don't need to use my .octaverc, only the proper load paths.

**/*.m: load the statistics package for unifrnd

The unifrnd() function was moved to the statistics package in
Octave 4.4:

  https://octave.org/NEWS-4.4.html

We add "pkg load statistics;" where necessary, and now implicitly
depend on the statistics package.

run-tests.m: include the optimization test functions

We don't need these to be available all the time, and now they are
not. But we do need to load them before running the test suite.

.octaverc: don't hard-code the repository path

We can find the path to the repository using the path to .octaverc and
canonicalize_file_name().

.octaverc: remove obsolete MATLAB compatibility options

COPYING,LICENSE: add (AGPL-3.0+)

Add the cholesky_inf() function.

Add the spectral_radius() function.

Revert "Return a more-useful column vector from partition();"

This reverts commit fde7b1beb7c103ba562f35d27586c1b4d77eae75.

Return a more-useful column vector from partition();

Place the 'omega' parameter to successive_over_relaxation() first -- a more natural position.

Add classical_iteration() sans comments, refactor jacobi() to use it.
Add gauss_seidel() and successive_over_relaxation() also using classical_iteration().

Use infinity norms in jacobi().

Add jacobi.m.

Check for error flag in rank_k_approximation().

Fix existing rank_k_approximation() tests; add new ones.

Check for the easy case in rank_k_approximation().

Fix a comment.

Add rank_k_approximation() and its tests.

Add MATLAB ellipses.

Mangle the PCGM tests, commit something that just might work even when we fail to converge.

Fix p/g mixup that I just put back.

Replace step_length_cgm() with a direct call to step_length_positive_definite().

Put back the redundant step_length_positive_definite() parameter.

Refix the non-negativity of denom in step_length_positive_definite().

Revert "Don't take a redundant parameter in step_length_positive_definite()."

This reverts commit 1a6f56b0dd6750649725b2fd07edb3fe0850a886.

Fix a ton of crap in the CGM tests.

Try again to make the steepest descent tests work.

Fix the n != 5 cases in the steepest descent tests.
Nerf the steepest descent test cases.
Take into account that pcg() uses the 2-norm in the steepest descent tests.

Add the perturb() function and its tests.

Tiny refactoring in the PCGM.

Remove useless abs() in the PCGM.

Fix loop count parsing.

Don't take a redundant parameter in step_length_positive_definite().

Take an optional integer parameter to ./run-tests.m to loop more than once.

Simplify (subjectively) the steepest descent loop.

Add tests for the steepest descent method, based on the PCGM tests.

Use the infinity norm in the PCGM tests.

Use the infinity norm in vanilla_cgm().
Simplify the loop in vanilla_cgm().

Fix bad bad typo.

Avoid divide-by-zero in preconditioned_conjugate_gradient_method().
Use the infinity norm (instead of the 2-norm) in the PCGM.
Simplify the stopping conditions in the PCGM.

Avoid divide-by-zero in step_length_positive_definite.m.

Use the infinity norm in steepest_descent(), update its comments, and simplify the main loop.

Fix an inline #-comment.

Fix a variable name (missed in the last renaming).

Clean up the loop in the vanilla CGM.
Make the roundoff error modification from the PCGM in the vanilla CGM.

Simplify the loop in steepest_descent().

Fix the iteration count in the PCGM.

Add a second reference for the PCGM and make it more resistant to accumulated roundoff error.

Add ellipses to multi-line function definition.

Add ellipses on a multi-line statement.

Replace ##-style comments with %-style comments in all non-test code.

Test our (P)CGM implementation against Octave's.

Add an optional upper bound argument to random_positive_definite_matrix().

Add random_positive_definite_matrix() and its tests.

Output totals at the end of the test suite.

Include the base directory in .octaverc.

Add the random_orthogonal_matrix() function and its tests.

Minor comment update.

Update comments in the *conjugate_gradient_method() functions.

Remove the step_size_positive_definite() function; it looks like it was added by accident and is superceded by step_length_positive_definite().

Fix up preconditioned CGM code.
Rename 'A' to 'Q' in preconditioned CGM code.
Test the preconditioned CGM against the simple implementation.

Fix function name in vanilla_cgm.m.
Remove unused vector in vanilla_cgm().

Move conjugate_gradient_method.m to vanilla_cgm.m.
Implement conjugate_gradient_method() in terms of the preconditioned CGM.
Add the slow, simple preconditioned CGM as simple_preconditioned_cgm().

Revert "Commit a simpler version of the preconditioned CGM."

This reverts commit af2083885af78b1290c21f2852c6fdba25820918.

Commit a simpler version of the preconditioned CGM.

Add the first working version of the preconditioned CGM.

Pass max_iterations to the CGM test.

Allow CGM to take a maximum number of iterations, return the amount needed.

Add performance notes to steepest descent stuff.

Add first implementation of the steepest descent method.

Add step_size_positive_definite().

Replace Octave-only comments with MATLAB-compatible ones.

Add trigonometric functions and their tests.

Two minor optimizations to test functions.

Add the Himmelblau function, as defined in Applied Nonlinear Programming.

Add first implementation of the conjugate gradient method and its tests.

Add extended_powell functions and their tests.

Add a missing semicolon.

Add some step length functions, untested.

Add extended_rosenbrock_hessian1() and its tests.

Add extended_rosenbrock_gradient1() and its tests.

Add extended_rosenbrock1() and its tests.

Add the Rosenbrock functions and their tests.

Add the powell_hessian() and powell_hessian1() functions.

Add powell_gradient(), powell_gradient1() and their tests.

Word-wrap a comment.
Remove unused variable.

Add powell(), powell1() and their tests.

Add tests for wood1().

Remove an unused line in wood_tests.m.

Add length checks to the wood functions, and fix wood_hessian1().

Add an octaverc which modifies the load path and improved MATLAB compatibility.
Update a comment in run-tests.m.

Add the Wood() test function and some tests.

Move even/odd into the misc subdirectory.

Add construct() and its tests.

Add OUTPUT to tridiagonal docstring.

Add tridiagonal() and its tests.

Add is_positive_definite() and its tests.

Add permutation_matrices() and its tests.